
حمله خصمانه به مدلهای هوشمصنوعی
امروزه شبکههای عصبی بهعنوان یکی از بهترین ابزارهای مطرح در هوشمصنوعی و یادگیری ماشین شناخته شدهاند و در انجام کارهای متنوع مورد استفاده قرار میگیرند. در سالهای اخیر موارد متعددی از آسیبپذیری این شبکهها مطرح شده است [1]–[20]. این آسیبپذیریها غالباً با افزودن اختلالات و تغییرات بسیار اندک بهصورت جمعشونده و غیر جمعشونده در داده ورودی ایجاد میشوند. این اختلالات موجب میشوند که با وجود نامحسوس بودن تغییرات اعمال شده در ورودی از دیدگاه عامل انسانی، خروجی مدلهای آموزش دیده تغییر یابند. ناکارآمد شدن این شبکهها به دلیل شکست در مقابل حملات خصمانه موجب گردیده است که توجه برخی از پژوهشگران فعال در عرصه یادگیری عمیق به بررسی و تحلیل دقیقتر این شبکهها و مقاومسازی آنها نسبت به اینگونه حملات معطوف گردد.








