انسان در حلقه
Human in the loop
طراحی‌ای که در آن انسان در نقاط مشخصی از کار یک سامانه هوشمند حضور دارد و می‌تواند بررسی، اصلاح یا متوقف کند.
انسان در حلقه یعنی سامانه هوشمند طوری طراحی شود که در نقاط حساس، یک انسان وارد فرایند شود: خروجی را ببیند، آن را تأیید یا اصلاح کند، یا کار را متوقف کند. این حضور می‌تواند در شکل‌های مختلفی باشد:
- انسان پیش از اجرا تأیید می‌کند (تأیید انسانی)؛
- انسان حین اجرا نظارت می‌کند و می‌تواند مداخله کند؛
- انسان پس از اجرا نمونه‌ها را بررسی می‌کند (نظارت پس از اجرا).
میزان حضور انسان باید با ریسک کار متناسب باشد: کارهای کم‌خطر و برگشت‌پذیر می‌توانند خودکار باشند، ولی تصمیم‌های پرخطر یا برگشت‌ناپذیر به قضاوت انسان نیاز دارند.
قسمت صوتی این واژه در ۲۷ بهمن ۱۴۰۵ در «یک دقیقه با ایران اوپن فاینانس» منتشر می‌شود.
واژه‌های مرتبط
تأیید انسانیHuman approvalمرحله‌ای که در آن اقدام پیشنهادی عامل هوشمند، پیش از اجرا، باید از سوی یک انسان مسئول بررسی و تأیید شود.نظارت پس از اجراPost-execution monitoringبررسی مداوم اقدام‌هایی که عامل‌های هوشمند انجام داده‌اند، برای یافتن خطا، الگوی غیرعادی یا سوءاستفاده پس از وقوع.دکمه توقفKill switchسازوکاری که با آن می‌توان یک عامل هوشمند یا همه عملیات آن را فوراً متوقف کرد، بدون اینکه به همکاری خود عامل نیازی باشد.مسئولیت‌پذیریAccountabilityاصلی که می‌گوید برای هر تصمیم یا اقدام یک سامانه هوشمند، شخص یا سازمان مشخصی پاسخ‌گوست، نه خود ماشین.