---
term: "توهم مدل"
english: "Model hallucination"
category: "عامل هوشمند و حکمرانی"
url: https://iranopenfinance.com/glossary/model-hallucination
source: Iran Open Finance (ایران اوپن فاینانس) glossary
---

# توهم مدل (Model hallucination)

> وقتی مدل هوش مصنوعی پاسخی نادرست یا ساختگی را با لحنی مطمئن و باورپذیر ارائه می‌کند.

توهم مدل به حالتی گفته می‌شود که یک [مدل زبانی](/glossary/language-model) اطلاعاتی نادرست یا کاملاً ساختگی تولید می‌کند، ولی آن را روان و با اطمینان بیان می‌کند؛ مثلاً یک قانون، عدد، منبع یا رویداد را از خودش می‌سازد.

علت اصلی این است که مدل برای تولید متنِ محتمل ساخته شده، نه لزوماً متنِ درست. در خدمات مالی توهم مدل می‌تواند خطرناک باشد، چون یک عدد یا شرط ساختگی ممکن است به تصمیم یا پرداخت اشتباه برسد. راه‌های کاهش آن:
- اتکا به داده‌های معتبر و منبع‌دار به جای حافظه مدل؛
- [ارزیابی مدل](/glossary/model-evaluation) و آزمون مداوم؛
- [تأیید انسانی](/glossary/human-approval) برای تصمیم‌های مهم.

Related: [مدل زبانی](https://iranopenfinance.com/glossary/language-model.md)، [ارزیابی مدل](https://iranopenfinance.com/glossary/model-evaluation.md)، [تأیید انسانی](https://iranopenfinance.com/glossary/human-approval.md)، [محافظ](https://iranopenfinance.com/glossary/guardrail.md)