توضیح‌پذیری
Explainability
توانایی یک سامانه هوشمند برای ارائه دلیلی قابل‌فهم برای خروجی یا تصمیمش، به کاربر، ناظر یا ممیز.
توضیح‌پذیری یعنی بتوان فهمید و بیان کرد که یک سامانه هوشمند چرا به یک خروجی یا تصمیم خاص رسیده است؛ مثلاً چرا یک درخواست اعتبار رد شد یا چرا یک تراکنش مشکوک تشخیص داده شد.
توضیح‌پذیری برای گروه‌های مختلف معنای متفاوتی دارد: مشتری می‌خواهد بداند چه عاملی در تصمیم مؤثر بوده و چه کاری از دستش برمی‌آید؛ ناظر و ممیز می‌خواهند منطق سامانه و داده‌های آن را بررسی کنند. مدل‌های پیچیده ذاتاً سخت‌تر توضیح داده می‌شوند، به همین دلیل در تصمیم‌های مالی مهم، ثبت دلایل در ردپای شواهد و استفاده از روش‌های توضیح‌دهنده اهمیت دارد.
قسمت صوتی این واژه در ۲۴ فروردین ۱۴۰۶ در «یک دقیقه با ایران اوپن فاینانس» منتشر می‌شود.
واژه‌های مرتبط
ردپای شواهدEvidence trailثبت کامل و غیرقابل‌دستکاری اینکه یک عامل چه کرد، به استناد چه اختیار و داده‌ای، و چه نتیجه‌ای گرفت.ممیزی الگوریتمAlgorithm auditبررسی مستقل و نظام‌مند یک سامانه هوشمند برای اطمینان از درستی، انصاف، امنیت و پایبندی آن به سیاست‌ها و مقررات.سوگیریBias (in AI)رفتار ناعادلانه یا نامتوازن یک مدل با گروه‌های مختلف، که معمولاً از داده‌های آموزشی یا طراحی سامانه می‌آید.مسئولیت‌پذیریAccountabilityاصلی که می‌گوید برای هر تصمیم یا اقدام یک سامانه هوشمند، شخص یا سازمان مشخصی پاسخ‌گوست، نه خود ماشین.