تأیید انسانی
Human approval
مرحله‌ای که در آن اقدام پیشنهادی عامل هوشمند، پیش از اجرا، باید از سوی یک انسان مسئول بررسی و تأیید شود.
تأیید انسانی یعنی عامل هوشمند اقدامی را آماده می‌کند، ولی اجرای آن منتظر تأیید یک انسان مجاز می‌ماند. این شیوه برای اقدام‌های پرخطر یا برگشت‌ناپذیر به کار می‌رود؛ مثل پرداخت‌های بالاتر از سقف اختیار، پرداخت به گیرنده جدید، یا تغییر اطلاعات حساس مشتری.
برای اینکه تأیید انسانی واقعی باشد و به یک کلیک عادتی تبدیل نشود، باید:
- اطلاعات کافی و خلاصه روشنی از اقدام و دلیل آن نمایش داده شود؛
- تأییدکننده اختیار و مسئولیت مشخص داشته باشد؛
- خود تأیید یا رد، در ردپای شواهد ثبت شود.
قسمت صوتی این واژه در ۱۱ اسفند ۱۴۰۵ در «یک دقیقه با ایران اوپن فاینانس» منتشر می‌شود.
واژه‌های مرتبط
انسان در حلقهHuman in the loopطراحی‌ای که در آن انسان در نقاط مشخصی از کار یک سامانه هوشمند حضور دارد و می‌تواند بررسی، اصلاح یا متوقف کند.سقف اختیارAuthority limitحد بالایی که یک عامل در هر اقدام یا در یک بازه زمانی نمی‌تواند از آن فراتر برود، مثل سقف مبلغ یا تعداد عملیات.ردپای شواهدEvidence trailثبت کامل و غیرقابل‌دستکاری اینکه یک عامل چه کرد، به استناد چه اختیار و داده‌ای، و چه نتیجه‌ای گرفت.مسئولیت‌پذیریAccountabilityاصلی که می‌گوید برای هر تصمیم یا اقدام یک سامانه هوشمند، شخص یا سازمان مشخصی پاسخ‌گوست، نه خود ماشین.