مسئولیت‌پذیری
Accountability
اصلی که می‌گوید برای هر تصمیم یا اقدام یک سامانه هوشمند، شخص یا سازمان مشخصی پاسخ‌گوست، نه خود ماشین.
مسئولیت‌پذیری در هوش مصنوعی یعنی همیشه یک انسان یا سازمان مشخص پاسخ‌گوی رفتار یک مدل یا عامل هوشمند باشد. «سیستم این کار را کرد» پاسخ قابل‌قبولی نیست؛ عامل ابزاری است که کسی آن را ساخته، به کار گرفته و به آن اختیار داده است.
برای اینکه مسئولیت‌پذیری عملی باشد، لازم است:
- مالک و مسئول هر عامل و هر سیاست مشخص باشد؛
- ردپای شواهد نشان دهد چه کسی چه تصمیمی گرفته یا تأیید کرده است؛
- مشتری راه روشنی برای اعتراض و جبران خسارت داشته باشد.
قسمت صوتی این واژه در ۹ شهریور ۱۴۰۶ در «یک دقیقه با ایران اوپن فاینانس» منتشر می‌شود.
واژه‌های مرتبط
ردپای شواهدEvidence trailثبت کامل و غیرقابل‌دستکاری اینکه یک عامل چه کرد، به استناد چه اختیار و داده‌ای، و چه نتیجه‌ای گرفت.هویت عاملAgent identityشناسه مشخص و قابل‌ردیابی یک عامل هوشمند که نشان می‌دهد این عامل کیست، از طرف چه کسی کار می‌کند و چه کسی مسئول آن است.اختیار و تفویضAuthority and delegationاینکه عامل هوشمند اجازه انجام چه کارهایی را دارد و این اجازه را چه کسی، برای چه مدت و در چه محدوده‌ای به او سپرده است.حکمرانی هوش مصنوعیAI governanceچارچوب قواعد، نقش‌ها و فرایندهایی که تعیین می‌کند یک سازمان چگونه هوش مصنوعی را امن، منصفانه و پاسخ‌گو به کار بگیرد.