حکمرانی هوش مصنوعی
AI governance
چارچوب قواعد، نقشها و فرایندهایی که تعیین میکند یک سازمان چگونه هوش مصنوعی را امن، منصفانه و پاسخگو به کار بگیرد.
حکمرانی هوش مصنوعی مجموعهای از قواعد، نقشها، فرایندها و کنترلهاست که یک سازمان با آن تصمیم میگیرد کجا و چگونه از هوش مصنوعی استفاده کند و ریسکهایش را مدیریت کند. این چارچوب همه مفاهیم این دسته را کنار هم قرار میدهد:
- چه کسی مالک و مسئول هر سامانه است؛
- عاملها با چه هویت، اختیار و سیاستی کار میکنند؛
- مدلها چطور ارزیابی، پایش و ممیزی میشوند؛
- حریم داده و انصاف چطور حفظ میشود.
حکمرانی خوب مانع نوآوری نیست؛ شرط اعتماد مشتری و ناظر به استفاده از هوش مصنوعی در کارهای مالی است.
قسمت صوتی این واژه در ۶ مهر ۱۴۰۶ در «یک دقیقه با ایران اوپن فاینانس™» منتشر میشود.
واژههای مرتبط
مسئولیتپذیریAccountabilityاصلی که میگوید برای هر تصمیم یا اقدام یک سامانه هوشمند، شخص یا سازمان مشخصی پاسخگوست، نه خود ماشین.ممیزی الگوریتمAlgorithm auditبررسی مستقل و نظاممند یک سامانه هوشمند برای اطمینان از درستی، انصاف، امنیت و پایبندی آن به سیاستها و مقررات.سیاستPolicyمجموعه قواعد صریحی که پیش از هر اقدام بررسی میشود و تعیین میکند عامل در چه شرایطی چه کاری را مجاز است انجام دهد.مدیریت ریسک هوش مصنوعیAI risk managementشناسایی، سنجش و کنترل خطرهایی که بهکارگیری هوش مصنوعی برای مشتری، سازمان و بازار ایجاد میکند، در تمام عمر سامانه.