حریم داده در هوش مصنوعی
Data privacy in AI
حفاظت از داده‌های شخصی و مالی در همه مراحل کار با هوش مصنوعی، از آموزش مدل تا ورودی‌ها، خروجی‌ها و سوابق.
حریم داده در هوش مصنوعی یعنی داده‌های شخصی و مالی افراد در هر جایی که به یک مدل یا عامل می‌رسند محافظت شوند: در داده‌های آموزشی، در ورودی‌هایی که به مدل داده می‌شود، در خروجی‌ها و در سوابق ذخیره‌شده.
اصول اصلی:
- فقط داده‌ای به مدل داده شود که برای کار لازم است؛
- داده‌های حساس تا جای ممکن حذف یا ناشناس شوند؛
- داده یک مشتری در پاسخ به مشتری دیگر نشت نکند؛
- معلوم باشد داده کجا پردازش و تا کی نگهداری می‌شود.
در خدمات مالی، استفاده عامل از داده مشتری باید بر پایه رضایت و اختیاری باشد که صاحب داده داده است.
قسمت صوتی این واژه در ۴ خرداد ۱۴۰۶ در «یک دقیقه با ایران اوپن فاینانس» منتشر می‌شود.
واژه‌های مرتبط
حداقل دسترسیLeast privilegeاصلی امنیتی که می‌گوید هر کاربر، سامانه یا عامل فقط باید همان دسترسی‌هایی را داشته باشد که برای کارش واقعاً لازم است.اختیار و تفویضAuthority and delegationاینکه عامل هوشمند اجازه انجام چه کارهایی را دارد و این اجازه را چه کسی، برای چه مدت و در چه محدوده‌ای به او سپرده است.حمله تزریق دستورPrompt injectionحمله‌ای که در آن دستورهای مخرب در متن یا داده‌ای که عامل می‌خواند پنهان می‌شود تا رفتار عامل را منحرف کند.حکمرانی هوش مصنوعیAI governanceچارچوب قواعد، نقش‌ها و فرایندهایی که تعیین می‌کند یک سازمان چگونه هوش مصنوعی را امن، منصفانه و پاسخ‌گو به کار بگیرد.