سوگیری

سوگیری در هوش مصنوعی یعنی مدل به‌طور نظام‌مند با گروهی از افراد متفاوت و ناعادلانه رفتار کند؛ مثلاً در اعتبارسنجی، متقاضیان یک منطقه یا یک گروه سنی را بدون دلیل موجه بدتر ارزیابی کند.

سوگیری معمولاً عمدی نیست و از این منابع می‌آید:

• داده‌های آموزشی که نابرابری‌های گذشته را منعکس می‌کنند؛
• کم بودن نمونه از بعضی گروه‌ها؛
• متغیرهایی که به‌طور غیرمستقیم جانشین ویژگی‌های حساس می‌شوند.

شناسایی سوگیری نیازمند ارزیابی مدل به تفکیک گروه‌ها، توضیح‌پذیری و ممیزی الگوریتم است.