---
term: "مدیریت ریسک هوش مصنوعی"
english: "AI risk management"
category: "عامل هوشمند و حکمرانی"
url: https://iranopenfinance.com/glossary/ai-risk-management
source: Iran Open Finance (ایران اوپن فاینانس) glossary
---

# مدیریت ریسک هوش مصنوعی (AI risk management)

> شناسایی، سنجش و کنترل خطرهایی که به‌کارگیری هوش مصنوعی برای مشتری، سازمان و بازار ایجاد می‌کند، در تمام عمر سامانه.

مدیریت ریسک هوش مصنوعی فرایندی مداوم برای شناسایی، سنجش، کاهش و پایش خطرهای یک سامانه هوشمند است؛ از طراحی تا کنار گذاشتن آن. خطرها می‌توانند فنی باشند، مثل [توهم مدل](/glossary/model-hallucination) و [رانش مدل](/glossary/model-drift)، امنیتی باشند، مثل [حمله تزریق دستور](/glossary/prompt-injection)، یا انسانی و حقوقی، مثل [سوگیری](/glossary/ai-bias) و نقض حریم داده.

یک رویکرد رایج این است که کاربردها بر اساس اثر و برگشت‌پذیری دسته‌بندی شوند: کاربردهای کم‌خطر با کنترل سبک‌تر پیش می‌روند و کاربردهای پرخطر، مثل تصمیم اعتباری یا جابه‌جایی پول، به ارزیابی دقیق‌تر، [تأیید انسانی](/glossary/human-approval)، [سقف اختیار](/glossary/authority-limit) و نظارت مستمر نیاز دارند.

Related: [حکمرانی هوش مصنوعی](https://iranopenfinance.com/glossary/ai-governance.md)، [رانش مدل](https://iranopenfinance.com/glossary/model-drift.md)، [حمله تزریق دستور](https://iranopenfinance.com/glossary/prompt-injection.md)، [سقف اختیار](https://iranopenfinance.com/glossary/authority-limit.md)، [تأیید انسانی](https://iranopenfinance.com/glossary/human-approval.md)