نظارت پس از اجرا
Post-execution monitoring
بررسی مداوم اقدام‌هایی که عامل‌های هوشمند انجام داده‌اند، برای یافتن خطا، الگوی غیرعادی یا سوءاستفاده پس از وقوع.
نظارت پس از اجرا یعنی حتی وقتی اقدامی خودکار و بدون تأیید پیشین انجام شده، سوابق آن پیوسته بررسی شود. این نظارت می‌تواند شامل این موارد باشد:
- هشدار خودکار برای الگوهای غیرعادی، مثل افزایش ناگهانی تعداد پرداخت‌ها؛
- بررسی نمونه‌ای اقدام‌ها توسط انسان؛
- مقایسه نتایج با انتظار و شناسایی رانش مدل؛
- پیگیری شکایت‌ها و اعتراض‌ها.
نظارت پس از اجرا مکمل تأیید انسانی است: کارهای کم‌خطر بدون معطلی انجام می‌شوند، ولی بی‌نظارت نمی‌مانند. پایه این نظارت ردپای شواهد کامل است و در صورت کشف مشکل، دکمه توقف باید در دسترس باشد.
قسمت صوتی این واژه در ۱۲ مرداد ۱۴۰۶ در «یک دقیقه با ایران اوپن فاینانس» منتشر می‌شود.
واژه‌های مرتبط
ردپای شواهدEvidence trailثبت کامل و غیرقابل‌دستکاری اینکه یک عامل چه کرد، به استناد چه اختیار و داده‌ای، و چه نتیجه‌ای گرفت.انسان در حلقهHuman in the loopطراحی‌ای که در آن انسان در نقاط مشخصی از کار یک سامانه هوشمند حضور دارد و می‌تواند بررسی، اصلاح یا متوقف کند.دکمه توقفKill switchسازوکاری که با آن می‌توان یک عامل هوشمند یا همه عملیات آن را فوراً متوقف کرد، بدون اینکه به همکاری خود عامل نیازی باشد.رانش مدلModel driftافت تدریجی کیفیت یا تغییر رفتار یک مدل در طول زمان، چون داده‌ها و شرایط دنیای واقعی با زمان ساخت آن فرق کرده است.