هوش مصنوعی مسئولانه مجموعهای از شعارها نیست؛ باید در تصمیمهای روزمره محصول، داده و مهندسی دیده شود. نخستین قدم، تعریف روشن هدف سیستم و افرادی است که از خروجی آن سود یا آسیب میبینند.
عدالت به معنای یکسان بودن تمام نتایج نیست. باید گروههای مختلف در داده و ارزیابی دیده شوند و اختلاف عملکرد میان آنها بهطور منظم اندازهگیری شود. اگر داده تاریخی بازتابدهنده تبعیض باشد، مدل میتواند همان الگو را تقویت کند.
شفافیت یعنی کاربر بداند چه زمانی با یک سیستم هوشمند روبهروست، چه دادهای برای تصمیم استفاده میشود و محدودیتهای سامانه چیست. در کاربردهای مهم، ثبت نسخه مدل و امکان توضیح عوامل مؤثر بر خروجی به پاسخگویی کمک میکند.
حریم خصوصی باید از طراحی آغاز شود. جمعآوری داده را به حد لازم کاهش دهید، داده حساس را رمزگذاری و دسترسی را محدود کنید و برای نگهداری یا حذف داده سیاست روشن داشته باشید. استفاده از داده بیشتر همیشه به معنای مدل بهتر نیست.
ایمنی نیازمند پیشبینی حالتهای شکست است. آزمونهای سوءاستفاده، ورودیهای مرزی، نرخمحدودسازی، کنترل دسترسی و امکان بازگشت به نسخه قبلی باید پیش از انتشار عمومی آماده باشند.
در تصمیمهای پرریسک، نظارت انسانی یک جزء طراحی است نه یک وصله. کاربر متخصص باید بتواند خروجی مدل را رد کند، دلیل تصمیم را ببیند و مسیر گزارش خطا یا اعتراض وجود داشته باشد.
حاکمیت خوب، سرعت نوآوری را از بین نمیبرد؛ برعکس، با تعریف مسئولیتها، معیارها و خط قرمزها باعث میشود تیم با اطمینان بیشتری آزمایش و عرضه کند.
نوآوری پایدار زمانی شکل میگیرد که سرعت ساخت با مسئولیتپذیری، شفافیت و امکان کنترل خطا همراه باشد.
مرزبندی عملی برای ساخت هوش مصنوعی قابل اعتماد
- کاربرد، ذینفعان و سطح ریسک سامانه را پیش از توسعه مشخص کنید.
- عملکرد مدل را برای گروههای مختلف جداگانه بسنجید.
- منشأ داده و محدودیتهای آن را مستند کنید.
- داده شخصی و حساس را تا حد ممکن کاهش دهید.
- برای خروجیهای مهم امکان توضیح و بازبینی انسانی فراهم کنید.
- حالتهای شکست و سوءاستفاده را پیش از انتشار آزمایش کنید.
- مالک هر تصمیم، مدل و داده را در سازمان مشخص کنید.
- پایش و گزارش رخداد را بخشی از چرخه عمر محصول بدانید.