این مقاله روشی جدید برای ارزیابی مدلهای یادگیری ماشین مورد استفاده در امنیت سایبری ارائه میدهد که علاوه بر سنجش مقاومت مدل در برابر حملات خصمانه (Adversarial Attacks)، میزان پایداری توضیحپذیری (Explainability Stability) آن را نیز اندازهگیری میکند. نویسندگان با معرفی شاخص Explainability Stability Index (ESI) نشان میدهند که یک مدل ممکن است از نظر دقت طبقهبندی در برابر حملات مقاوم به نظر برسد، اما توضیحات تولیدشده توسط روشهای Explainable AI مانند SHAP بهشدت تغییر کنند و در نتیجه اعتماد تحلیلگران امنیتی به تصمیمات مدل کاهش یابد. این پژوهش بر روی چندین مجموعهداده امنیت سایبری و مدلهای Random Forest و XGBoost انجام شده و چارچوبی دوبعدی برای ارزیابی امنیت و قابلیت توضیحپذیری پیشنهاد میکند.
چالش حملات خصمانه در امنیت سایبری
مدلهای یادگیری ماشین بهطور گسترده در سامانههای امنیت سایبری برای تشخیص بدافزار، شناسایی حملات شبکه، تشخیص فیشینگ و تحلیل ترافیک استفاده میشوند. با این حال، این مدلها در برابر حملات خصمانه آسیبپذیر هستند؛ حملاتی که با ایجاد تغییرات بسیار کوچک در دادههای ورودی، باعث تغییر تصمیم مدل میشوند. نویسندگان تأکید میکنند که اغلب پژوهشها تنها کاهش دقت مدل را بررسی کردهاند، در حالی که تغییر در توضیحپذیری مدل نیز میتواند پیامدهای امنیتی مهمی داشته باشد.
اهمیت توضیحپذیری در عملیات امنیت سایبری
در مراکز عملیات امنیت (SOC)، تحلیلگران تنها به خروجی مدل اعتماد نمیکنند، بلکه به توضیحاتی که مشخص میکند کدام ویژگیها موجب تصمیم مدل شدهاند نیز نیاز دارند. ابزارهایی مانند SHAP برای ارائه این توضیحات استفاده میشوند. اگر یک حمله خصمانه بتواند بدون تغییر محسوس در خروجی مدل، این توضیحات را تغییر دهد، تحلیلگر ممکن است علت واقعی هشدار را اشتباه تفسیر کرده و تصمیم نادرستی اتخاذ کند. بنابراین، پایداری توضیحپذیری به اندازه دقت مدل اهمیت دارد.
معرفی شاخص Explainability Stability Index
مهمترین نوآوری مقاله، معرفی شاخص Explainability Stability Index (ESI) است. این شاخص میزان تغییر در مقادیر SHAP قبل و بعد از حمله خصمانه را اندازهگیری میکند و عددی بین صفر و یک ارائه میدهد. مقدار نزدیک به یک نشاندهنده پایداری بالای توضیحپذیری و مقدار نزدیک به صفر بیانگر تغییر شدید در تفسیر مدل است. نویسندگان پیشنهاد میکنند که ESI در کنار شاخص Robustness Index (RI) بهعنوان معیار استاندارد ارزیابی مدلهای امنیت سایبری مورد استفاده قرار گیرد.
مجموعهدادهها و مدلهای مورد ارزیابی
آزمایشها روی چهار مجموعهداده شناختهشده امنیت سایبری شامل Phishing URLs، UNSW-NB15، NF-ToN-IoT و HIKARI-2021 انجام شده است. دو مدل مبتنی بر درخت تصمیم یعنی Random Forest و XGBoost مورد بررسی قرار گرفتند تا رفتار آنها در برابر انواع مختلف حملات خصمانه و تغییرات توضیحپذیری تحلیل شود.
ارزیابی پنج نوع حمله خصمانه
نویسندگان پنج حمله مختلف را بررسی کردند که شامل حملات مبتنی بر گرادیان و حملات جعبهسیاه (Black-box) میشود. از جمله مهمترین آنها میتوان به PGD، ZOO و Square Attack اشاره کرد. هدف، بررسی این موضوع بود که هر حمله تا چه اندازه میتواند هم تصمیم مدل و هم توضیحپذیری آن را تغییر دهد.
آشکار شدن ضعف پنهان XGBoost
یکی از نتایج جالب پژوهش این است که حمله ZOO برای مدل XGBoost ظاهراً مقاومت بسیار بالایی نشان داد و مقدار Robustness Index نزدیک به ۰٫۹۸ به دست آمد. اما بررسی شاخص ESI نشان داد که با وجود ثابت ماندن پیشبینی مدل، مقادیر SHAP بهشدت تغییر کردهاند و پایداری توضیحپذیری به حدود ۰٫۰۶ تا ۰٫۱۶ کاهش یافته است. این نتیجه نشان میدهد که مقاوم بودن خروجی مدل الزاماً به معنای پایدار بودن توضیحپذیری آن نیست.
برتری حمله Square Attack
برخلاف ZOO، حمله Square Attack توانست آسیبپذیری واقعی مدل XGBoost را آشکار کند و مقدار Robustness Index را تا حدود ۰٫۳۶ کاهش دهد. این موضوع نشان میدهد که برخی حملات مبتنی بر گرادیان برای مدلهای درختی مناسب نیستند و ممکن است مقاومت کاذب ایجاد کنند، در حالی که حملات جعبهسیاه کارایی بیشتری در ارزیابی این دسته از مدلها دارند.
چارچوب دوبعدی ارزیابی امنیت
نویسندگان چارچوبی دوبعدی برای ارزیابی حملات پیشنهاد میکنند که دو معیار اصلی را در نظر میگیرد: وابستگی حمله به گرادیان و میزان کارایی آن از نظر تعداد پرسوجو (Query Efficiency). این چارچوب به پژوهشگران کمک میکند تا مناسبترین نوع حمله را برای ارزیابی مدلهای مختلف انتخاب کنند و از نتایج گمراهکننده جلوگیری شود.
تحلیل اثر اندازه گام در PGD
پژوهش همچنین یک مطالعه تکمیلی درباره اندازه گام (Step Size) در حمله PGD ارائه میدهد. نتایج نشان میدهد که در دادههای جدولی نرمالسازیشده با Z-score، انتخاب اندازه گام نامناسب میتواند عملکرد حمله را بهشدت تحت تأثیر قرار دهد و منجر به نتایج غیرمنتظره شود. این موضوع اهمیت تنظیم دقیق پارامترهای حملات خصمانه را نشان میدهد.
اهمیت برای سامانههای امنیت سایبری
نویسندگان نتیجه میگیرند که ارزیابی مدلهای یادگیری ماشین در امنیت سایبری نباید تنها بر اساس دقت یا مقاومت در برابر حملات انجام شود. پایداری توضیحپذیری نیز باید بهعنوان یک معیار مستقل اندازهگیری شود، زیرا تحلیلگران امنیتی تصمیمات خود را بر اساس همین توضیحات اتخاذ میکنند. آنها پیشنهاد میکنند که شاخص Explainability Stability Index به یکی از معیارهای استاندارد در ارزیابی سامانههای هوشمند امنیت سایبری تبدیل شود تا مدلهایی توسعه یابند که هم مقاوم باشند و هم توضیحات قابل اعتماد و پایدار ارائه دهند.