حکمرانی هوش مصنوعی
AI governance
چارچوب قواعد، نقش‌ها و فرایندهایی که تعیین می‌کند یک سازمان چگونه هوش مصنوعی را امن، منصفانه و پاسخ‌گو به کار بگیرد.
حکمرانی هوش مصنوعی مجموعه‌ای از قواعد، نقش‌ها، فرایندها و کنترل‌هاست که یک سازمان با آن تصمیم می‌گیرد کجا و چگونه از هوش مصنوعی استفاده کند و ریسک‌هایش را مدیریت کند. این چارچوب همه مفاهیم این دسته را کنار هم قرار می‌دهد:
- چه کسی مالک و مسئول هر سامانه است؛
- عامل‌ها با چه هویت، اختیار و سیاستی کار می‌کنند؛
- مدل‌ها چطور ارزیابی، پایش و ممیزی می‌شوند؛
- حریم داده و انصاف چطور حفظ می‌شود.
حکمرانی خوب مانع نوآوری نیست؛ شرط اعتماد مشتری و ناظر به استفاده از هوش مصنوعی در کارهای مالی است.
قسمت صوتی این واژه در ۶ مهر ۱۴۰۶ در «یک دقیقه با ایران اوپن فاینانس» منتشر می‌شود.
واژه‌های مرتبط
مسئولیت‌پذیریAccountabilityاصلی که می‌گوید برای هر تصمیم یا اقدام یک سامانه هوشمند، شخص یا سازمان مشخصی پاسخ‌گوست، نه خود ماشین.ممیزی الگوریتمAlgorithm auditبررسی مستقل و نظام‌مند یک سامانه هوشمند برای اطمینان از درستی، انصاف، امنیت و پایبندی آن به سیاست‌ها و مقررات.سیاستPolicyمجموعه قواعد صریحی که پیش از هر اقدام بررسی می‌شود و تعیین می‌کند عامل در چه شرایطی چه کاری را مجاز است انجام دهد.مدیریت ریسک هوش مصنوعیAI risk managementشناسایی، سنجش و کنترل خطرهایی که به‌کارگیری هوش مصنوعی برای مشتری، سازمان و بازار ایجاد می‌کند، در تمام عمر سامانه.