این مقاله مروری (Systematization of Knowledge – SoK) نخستین بررسی جامع از امنیت سامانههای هوش مصنوعی اجراشونده روی دستگاههای همراه (Mobile On-device AI یا MoAI) را ارائه میدهد. پژوهش با تحلیل معماری این سامانهها، انواع حملات، روشهای دفاعی و چالشهای امنیتی، نشان میدهد که انتقال مدلهای هوش مصنوعی از ابر به دستگاههای محلی، علاوه بر مزایای حریم خصوصی و کاهش تأخیر، سطح حمله جدیدی ایجاد کرده و نیازمند معماریهای امنیتی اختصاصی است.
رشد هوش مصنوعی روی دستگاههای همراه
با افزایش توان پردازشی تلفنهای هوشمند، تبلتها، رایانههای شخصی و تجهیزات لبه شبکه، اجرای مستقیم مدلهای هوش مصنوعی روی دستگاههای محلی به یکی از روندهای اصلی صنعت تبدیل شده است. برخلاف مدلهای مبتنی بر رایانش ابری، این سامانهها عملیات استنتاج را بهصورت محلی انجام میدهند که موجب کاهش تأخیر، افزایش حفظ حریم خصوصی، کاهش وابستگی به اینترنت و امکان عملکرد آفلاین میشود. با این حال، ذخیره مدلهای هوش مصنوعی روی دستگاه کاربر، مخاطرات امنیتی کاملاً جدیدی ایجاد میکند.
هدف پژوهش
این مقاله با رویکرد Systematization of Knowledge یا SoK نخستین چارچوب جامع برای تحلیل امنیت سامانههای Mobile On-device AI را ارائه میکند. نویسندگان با مرور مطالعات موجود، تلاش کردهاند معماری امنیتی، سطوح حمله، روشهای دفاعی، چالشهای باز و مسیرهای آینده تحقیق را در یک چارچوب منسجم گردآوری کنند تا مبنایی برای توسعه سامانههای امنتر فراهم شود.
معماری سامانههای MoAI
پژوهش، سامانههای هوش مصنوعی روی دستگاه را متشکل از چند مؤلفه اصلی شامل مدل یادگیری ماشین، موتور استنتاج، سیستمعامل، سختافزار شتابدهنده، فضای ذخیرهسازی مدل، برنامه کاربردی و رابطهای ارتباطی معرفی میکند. امنیت هر یک از این مؤلفهها میتواند بر امنیت کل سامانه تأثیر بگذارد و مهاجمان قادرند از هر یک از این لایهها برای نفوذ یا استخراج اطلاعات سوءاستفاده کنند.
اهداف اصلی مهاجمان
مهاجمان معمولاً چهار هدف اصلی را دنبال میکنند: سرقت مدلهای هوش مصنوعی و مالکیت فکری، استخراج دادههای آموزشی یا اطلاعات کاربران، دستکاری رفتار مدل و تولید خروجیهای نادرست، و ایجاد اختلال یا تخریب عملکرد سامانه. مقاله تأکید میکند که به دلیل قرار داشتن مدل روی دستگاه کاربر، بسیاری از این حملات نسبت به سامانههای ابری سادهتر قابل اجرا هستند.
دستهبندی حملات
مطالعه حملات علیه سامانههای MoAI را در چند دسته اصلی طبقهبندی میکند: حملات استخراج مدل (Model Extraction)، حملات سرقت وزنها، حملات استنتاج عضویت (Membership Inference)، حملات وارونسازی مدل (Model Inversion)، حملات خصمانه (Adversarial Attacks)، حملات مسمومسازی (Poisoning)، حملات به زنجیره تأمین نرمافزار، حملات به سختافزار شتابدهنده و حملات کانال جانبی (Side-Channel Attacks). هر یک از این دستهها تهدیدهای متفاوتی برای محرمانگی، صحت و دسترسپذیری سامانه ایجاد میکنند.
حملات کانال جانبی
یکی از مهمترین تهدیدهای مطرحشده، حملات کانال جانبی است. در این روش، مهاجم با تحلیل مصرف انرژی، زمان اجرا، الگوهای دسترسی به حافظه، فعالیت پردازنده یا سایر نشانههای فیزیکی دستگاه، اطلاعاتی درباره ساختار مدل یا دادههای پردازششده استخراج میکند. این حملات بدون نیاز به دسترسی مستقیم به مدل، میتوانند اطلاعات ارزشمندی درباره عملکرد سامانه به دست آورند.
سرقت مدل و مالکیت فکری
از آنجا که مدلهای هوش مصنوعی روی حافظه دستگاه ذخیره میشوند، مهاجمان میتوانند از طریق مهندسی معکوس، استخراج فایلهای مدل یا تحلیل حافظه، به وزنها و ساختار مدل دست یابند. این مسئله علاوه بر خسارت اقتصادی برای توسعهدهندگان، امکان تولید نسخههای غیرمجاز یا توسعه حملات پیشرفتهتر را نیز فراهم میکند.
روشهای دفاعی
مقاله مجموعهای از راهکارهای دفاعی را بررسی میکند که شامل رمزنگاری مدل، محیطهای اجرای امن (Trusted Execution Environment)، مبهمسازی مدل، هرس مدل، واترمارکینگ، تکنیکهای حفظ حریم خصوصی مانند Differential Privacy، یادگیری فدرال، شناسایی نمونههای خصمانه، حفاظت از سختافزار و کنترل دسترسی به مدل است. پژوهشگران تأکید میکنند که هیچ راهکار واحدی پاسخگوی تمامی تهدیدات نیست و امنیت مؤثر نیازمند استفاده ترکیبی از چندین سازوکار دفاعی است.
چالشهای باز
مطالعه چندین چالش مهم را شناسایی میکند؛ از جمله نبود استانداردهای امنیتی برای سامانههای هوش مصنوعی روی دستگاه، کمبود بنچمارکهای ارزیابی، دشواری حفاظت همزمان از کارایی و امنیت، افزایش پیچیدگی مدلهای چندوجهی و رشد سریع شتابدهندههای اختصاصی هوش مصنوعی که سطوح حمله جدیدی ایجاد میکنند. همچنین پژوهشگران معتقدند بسیاری از راهکارهای دفاعی موجود هنوز در مقیاس صنعتی به اندازه کافی آزمایش نشدهاند.
جهتگیریهای آینده
نویسندگان پیشنهاد میکنند تحقیقات آینده بر توسعه معماریهای امنیتی بومی برای Mobile On-device AI، طراحی سختافزارهای مقاوم در برابر حملات کانال جانبی، استانداردسازی روشهای ارزیابی امنیت، توسعه سامانههای تشخیص حملات بلادرنگ و ایجاد چارچوبهای جامع مدیریت ریسک متمرکز شود. همچنین همکاری میان تولیدکنندگان سختافزار، توسعهدهندگان سیستمعامل و پژوهشگران امنیت سایبری برای کاهش تهدیدات آینده ضروری دانسته شده است.
جمعبندی
این مقاله نخستین مرور جامع امنیت سامانههای هوش مصنوعی روی دستگاههای همراه را ارائه میدهد و نشان میدهد که انتقال مدلهای هوش مصنوعی از ابر به دستگاههای محلی، ضمن افزایش حریم خصوصی و کاهش تأخیر، تهدیدهای جدیدی را نیز ایجاد کرده است. پژوهش با ارائه یک چارچوب منسجم برای دستهبندی حملات، دفاعها و چالشهای پژوهشی، مبنایی برای طراحی نسل آینده سامانههای Mobile On-device AI ایمن فراهم میکند.