عامل هوشمند و حکمرانی

انسان در حلقه

Human in the loop

طراحی‌ای که در آن انسان در نقاط مشخصی از کار یک سامانه هوشمند حضور دارد و می‌تواند بررسی، اصلاح یا متوقف کند.

انسان در حلقه یعنی سامانه هوشمند طوری طراحی شود که در نقاط حساس، یک انسان وارد فرایند شود: خروجی را ببیند، آن را تأیید یا اصلاح کند، یا کار را متوقف کند. این حضور می‌تواند در شکل‌های مختلفی باشد:

  • انسان پیش از اجرا تأیید می‌کند (تأیید انسانی)؛
  • انسان حین اجرا نظارت می‌کند و می‌تواند مداخله کند؛
  • انسان پس از اجرا نمونه‌ها را بررسی می‌کند (نظارت پس از اجرا).

میزان حضور انسان باید با ریسک کار متناسب باشد: کارهای کم‌خطر و برگشت‌پذیر می‌توانند خودکار باشند، ولی تصمیم‌های پرخطر یا برگشت‌ناپذیر به قضاوت انسان نیاز دارند.

قسمت صوتی این واژه در ۲۷ بهمن ۱۴۰۵ در «یک دقیقه با ایران اوپن فاینانس™» منتشر می‌شود.

واژه‌های مرتبط