---
term: "توضیح‌پذیری"
english: "Explainability"
category: "عامل هوشمند و حکمرانی"
url: https://iranopenfinance.com/glossary/explainability
source: Iran Open Finance (ایران اوپن فاینانس) glossary
---

# توضیح‌پذیری (Explainability)

> توانایی یک سامانه هوشمند برای ارائه دلیلی قابل‌فهم برای خروجی یا تصمیمش، به کاربر، ناظر یا ممیز.

توضیح‌پذیری یعنی بتوان فهمید و بیان کرد که یک سامانه هوشمند چرا به یک خروجی یا تصمیم خاص رسیده است؛ مثلاً چرا یک درخواست اعتبار رد شد یا چرا یک تراکنش مشکوک تشخیص داده شد.

توضیح‌پذیری برای گروه‌های مختلف معنای متفاوتی دارد: مشتری می‌خواهد بداند چه عاملی در تصمیم مؤثر بوده و چه کاری از دستش برمی‌آید؛ ناظر و ممیز می‌خواهند منطق سامانه و داده‌های آن را بررسی کنند. مدل‌های پیچیده ذاتاً سخت‌تر توضیح داده می‌شوند، به همین دلیل در تصمیم‌های مالی مهم، ثبت دلایل در [ردپای شواهد](/glossary/evidence-trail) و استفاده از روش‌های توضیح‌دهنده اهمیت دارد.

Related: [ردپای شواهد](https://iranopenfinance.com/glossary/evidence-trail.md)، [ممیزی الگوریتم](https://iranopenfinance.com/glossary/algorithm-audit.md)، [سوگیری](https://iranopenfinance.com/glossary/ai-bias.md)، [مسئولیت‌پذیری](https://iranopenfinance.com/glossary/accountability.md)