ممیزی الگوریتم
Algorithm audit
بررسی مستقل و نظام‌مند یک سامانه هوشمند برای اطمینان از درستی، انصاف، امنیت و پایبندی آن به سیاستها و مقررات.
ممیزی الگوریتم یعنی یک گروه مستقل، داخلی یا بیرونی، یک مدل یا عامل هوشمند را به‌طور نظام‌مند بررسی کند؛ همان‌طور که حسابرس صورت‌های مالی را بررسی می‌کند. ممیز معمولاً به این پرسش‌ها پاسخ می‌دهد:
- داده‌ها از کجا آمده و آیا مناسب و مجاز بوده است؟
- مدل چطور ارزیابی شده و نتایجش برای گروه‌های مختلف منصفانه است؟
- سیاستها، سقف‌ها و محافظ‌ها واقعاً اعمال می‌شوند؟
- ردپای شواهد کامل و قابل اتکاست؟
نتیجه ممیزی، فهرستی از یافته‌ها و اقدام‌های اصلاحی است و بهتر است به‌طور دوره‌ای و پس از تغییرهای مهم تکرار شود.
قسمت صوتی این واژه در ۲۳ شهریور ۱۴۰۶ در «یک دقیقه با ایران اوپن فاینانس» منتشر می‌شود.
واژه‌های مرتبط
ردپای شواهدEvidence trailثبت کامل و غیرقابل‌دستکاری اینکه یک عامل چه کرد، به استناد چه اختیار و داده‌ای، و چه نتیجه‌ای گرفت.سوگیریBias (in AI)رفتار ناعادلانه یا نامتوازن یک مدل با گروه‌های مختلف، که معمولاً از داده‌های آموزشی یا طراحی سامانه می‌آید.توضیح‌پذیریExplainabilityتوانایی یک سامانه هوشمند برای ارائه دلیلی قابل‌فهم برای خروجی یا تصمیمش، به کاربر، ناظر یا ممیز.حکمرانی هوش مصنوعیAI governanceچارچوب قواعد، نقش‌ها و فرایندهایی که تعیین می‌کند یک سازمان چگونه هوش مصنوعی را امن، منصفانه و پاسخ‌گو به کار بگیرد.