اولویت‌های مدیریت ریسک هوش‌مصنوعی مبتنی بر چارچوب MOS‌T گارتنر

اولویت‌های مدیریت ریسک هوش‌مصنوعی مبتنی بر چارچوب MOS‌T گارتنر

طبق یکی از نظرسنجی‌های اخیر گارتنر، حریم خصوصی و امنیت داده‌ها به عنوان یکی از موانع اصلی برای پیاده‌سازی ایده‌های هوش‌مصنوعی و فراهم سازی مقدمات آموزش مدل‌های هوشمند درنظر گرفته شده است [1]. با این حال تعداد معدودی از سازمان‌ها به علت مواجه بودن مستقیم با چنین مسائلی، پیشرو و پیشگام در ارائه راهکارها می‌باشند. اما نباید فراموش کرد که مدیریت ریسک پروژه‌های هوش‌مصنوعی دغدغه‌ مدیران خواهد بود.

نسل جدید روش‌های هوشمند هوش‌مصنوعی در غالب سازمان‌ها مسائل را به صورت جعبه‌‌سیاه حل می‌نماید. درواقع دید شفافی از مسیر رسیدن به هدف غالبا ارائه نمی‌شود و صرفا خروجی مورد انتظار در شرایط عادی دراختیار است. لذا تفسیرپذیری آنها و نحوه دقیق پاسخگویی مدل‌های پیشرفته هوش مصنوعی برای غالب متخصصین آن نیز هنوز شفاف نیست. از همین‌رو، شفافیت و تفسیرپذیری مدل‌های هوش‌مصنوعی یکی از دغدغه‌ها و گام‌های کلیدی است و سازمان‌ها با استفاده از آن، می‌توانند مدیریت ریسک بهتری داشته باشند. مدیریت ریسک هوش‌مصنوعی در آینده‌ای نزدیک با الزامات جدیدی مواجه خواهد شد. درواقع مدیریت و بررسی صلاحیت‌سنجی استفاده از خروجی محصولات هوش‌مصنوعی به راحتی محصولات نرم‌افزاری نیست و از همین‌رو قابلیت اطمینان و اعتماد، امنیت، جامعیت داده‌ها و یکپارچگی و پایداری مدل‌های هوش‌مصنوعی در چندسال اخیر بسیار مورد توجه قرار گرفته است.

گارتنر پس از بررسی‌های متعدد و مشاوره از متخصصین گسترده در صنایع مختلف اخیرا مقاله‌ای با عنوان «پنج اولویت برای مدیریت ریسک هوش‌مصنوعی مبتنی بر چارچوب MOS‌T» منتشر نموده است. پژوهش آن‌ها به سازمان‌ها توصیه می‌نماید تا از چارچوب MOS‌T (که قابلیت اطمینان، امنیت و یکپارچگی داده و مدل های هوش‌مصنوعی را به همراه دارد) استفاده نمایند. طبق پژوهش آن‌ها؛ سازمان‌ها می‌بایست به تشکیل تیم‌های متقابل و پویا نظیر تیم‌های حقوقی، تطبیق، تحلیل داده، امنیت و حریم خصوصی جهت پیشرفت بهتر این امر اقدام نمایند و درنهایت به 5 اولویت ذیل بپردازند:

•    ارزیابی میزان شفافیت مورد نیاز با استفاده از فراهم کردن فهرستی از ملزومات هوش‌مصنوعی سازمان و اطمینان از میزان تفسیرپذیری آن‌ها
•    آگاه‌سازی کارکنان سازمان با برگزاری کمپین‌های آموزشی ریسک‌های مختلف هوش‌مصنوعی
•   در معرض قراردادن داده‌های مشترک داخل سازمانی به تیم‌های هوش‌مصنوعی با اتخاذ برنامه‌های مختلف و جدّی محافظت از داده‌های حساس و همچنین رعایت حریم خصوصی
•    ارتقای پایداری، قابلیت اطمینان و امنیت مدل‌های هوش‌مصنوعی با کمک مدیریت ریسک در فرآیندهای مرتبط با آموزش و آزمون مدل‌های هوش مصنوعی
•   استفاده از معیارها و تدابیر امنیتی خاص در برابر حملات خصمانه به مدل‌های هوش‌مصنوعی جهت اطمینان‌یافتن از مقاومت و تعمیم‌پذیری آن‌ها

باتوجه به استفاده گسترده از رویکردهای مبتنی بر هوش‌مصنوعی در سیستم‌های امنیتی سازمان‌ها به منظور تشخیص رفتارهای غیرعادی کاربران در محیط‌های مجازی و فیزیکی، می‌بایست توجه به اقدامات مدیریت ریسک هوش‌مصنوعی علیه سیستم‌های امنیتی مورد توجه قرار گیرد. لازم به ذکر است که مدیریت ریسک سیستم‌های هوش‌مصنوعی نسبتا دشوار است ولی این به‌این معنی نیست که به تعویق بیفتد.

منابع

[1] https://www.gartner.com/en/documents/3987202/survey-analysis-moving-ai-projects-from-prototype-to-pro

[2] https://blogs.gartner.com/avivah-litan/2021/01/21/top-5-priorities-for-managing-ai-risk-within-gartners-mos‌t-framework/

[3] https://research.google/pubs/pub42503/

[4] https://www.gartner.com/en/documents/3939991/ai-as-a-target-and-tool-an-attacker-s-perspective-on-ml

[5] https://www.gartner.com/en/documents/3899783/anticipate-data-manipulation-security-risks-to-ai-pipeli