در تحلیلی منتشرشده توسط Lawfare، نویسندگان استدلال میکنند که اگرچه هوش مصنوعی مولد و عاملهای هوشمند (Agentic AI) شکل حملات و دفاع سایبری را بهطور اساسی تغییر خواهند داد، اما ماهیت امنیت سایبری تفاوت چندانی با گذشته نخواهد داشت. همانند دورههای پیشین تحول فناوری، موفقیت در دفاع سایبری همچنان به مدیریت ریسک، شناسایی داراییها، کنترل دسترسی، آموزش نیروی انسانی، بهروزرسانی مستمر سامانهها و ایجاد معماریهای مقاوم وابسته خواهد بود. هوش مصنوعی سرعت، مقیاس و پیچیدگی عملیات را افزایش میدهد، اما جایگزین اصول کلاسیک امنیت سایبری نخواهد شد.
ورود هوش مصنوعی به مرحلهای تعیینکننده
نویسندگان مقاله معتقدند که امنیت سایبری وارد مرحلهای جدید شده است؛ مرحلهای که در آن هوش مصنوعی مولد، مدلهای زبانی بزرگ و عاملهای هوشمند قادر خواهند بود بسیاری از فعالیتهایی را که پیشتر توسط متخصصان امنیت انجام میشد، بهصورت خودکار اجرا کنند. این تحول شامل کشف آسیبپذیریها، تحلیل بدافزار، پاسخ به رخدادها، تولید کد، تحلیل تهدیدات و حتی برنامهریزی عملیات پیچیده سایبری است. با این حال، نویسندگان تأکید میکنند که این تغییر به معنای کنار گذاشته شدن اصول سنتی امنیت نیست، بلکه ابزارهای اجرای آن اصول پیشرفتهتر خواهند شد.
درس تاریخ؛ هر تحول فناوری نگرانی مشابهی ایجاد کرده است
مقاله با مرور تاریخ امنیت سایبری نشان میدهد که ظهور اینترنت، رایانش ابری، تلفنهای هوشمند و رایانش توزیعشده نیز در زمان خود بهعنوان تحولاتی انقلابی معرفی میشدند. هر یک از این فناوریها روشهای جدیدی برای حمله ایجاد کردند، اما در نهایت سازمانهایی موفق بودند که اصول بنیادی امنیت مانند مدیریت هویت، کنترل دسترسی، تقسیمبندی شبکه، ثبت رویدادها، نسخههای پشتیبان و مدیریت وصلههای امنیتی را بهدرستی اجرا کرده بودند. نویسندگان معتقدند هوش مصنوعی نیز از همین الگو پیروی خواهد کرد.
هوش مصنوعی همزمان ابزار مهاجم و مدافع خواهد بود
به اعتقاد نویسندگان، هوش مصنوعی مزیتی انحصاری برای هیچیک از طرفین ایجاد نمیکند. مهاجمان از آن برای تولید سریعتر بدافزار، ساخت ایمیلهای فیشینگ طبیعیتر، شناسایی آسیبپذیریها، تحلیل سامانههای هدف و خودکارسازی حملات استفاده خواهند کرد. در مقابل، مدافعان نیز از همان فناوری برای تحلیل لاگها، کشف تهدیدات، اولویتبندی هشدارها، خودکارسازی پاسخ به رخدادها، تحلیل کدهای مخرب و کمک به تصمیمگیری امنیتی بهره خواهند گرفت. بنابراین رقابت آینده بیشتر به کیفیت پیادهسازی و سرعت انطباق بستگی خواهد داشت تا صرف دسترسی به هوش مصنوعی.
عاملهای هوشمند، نسل جدید عملیات سایبری
مقاله پیشبینی میکند که Agentic AI یکی از مهمترین تغییرات سالهای آینده خواهد بود. برخلاف چتباتهای امروزی، عاملهای هوشمند قادر خواهند بود اهداف مشخصی را دریافت کرده، بهصورت مستقل برنامهریزی کنند، اطلاعات جمعآوری کنند، ابزارهای مختلف را فراخوانی کرده، تصمیم بگیرند و وظایف چندمرحلهای را بدون مداخله مستقیم انسان انجام دهند. چنین قابلیتی میتواند هم در عملیات دفاعی و هم در حملات سایبری مورد استفاده قرار گیرد.
افزایش سرعت و مقیاس تهدیدات
یکی از مهمترین پیامدهای استفاده از هوش مصنوعی، افزایش شدید سرعت اجرای عملیات سایبری است. بسیاری از فعالیتهایی که پیشتر به ساعتها یا روزها زمان نیاز داشت، اکنون میتواند ظرف چند دقیقه انجام شود. این موضوع موجب افزایش تعداد حملات، کوتاهتر شدن چرخه عملیات مهاجمان و کاهش فرصت واکنش مدافعان خواهد شد. به همین دلیل، سازمانها باید سامانههای امنیتی خود را نیز به سمت خودکارسازی بیشتر حرکت دهند.
اصول امنیتی همچنان تغییر نمیکنند
نویسندگان تأکید میکنند که حتی در عصر هوش مصنوعی نیز مهمترین اقدامات امنیتی همان موارد شناختهشده خواهند بود: مدیریت صحیح داراییها، احراز هویت چندعاملی، حداقلسازی سطح دسترسی، تقسیمبندی شبکه، بهروزرسانی مستمر نرمافزارها، تهیه نسخه پشتیبان، آموزش کارکنان و مدیریت ریسک. سازمانهایی که این اصول را نادیده بگیرند، حتی با استفاده از پیشرفتهترین سامانههای هوش مصنوعی نیز در برابر حملات آسیبپذیر خواهند بود.
لزوم بازطراحی معماری امنیتی
مقاله پیشنهاد میکند که سازمانها از هماکنون معماری امنیتی خود را برای پذیرش عاملهای هوشمند بازطراحی کنند. این موضوع شامل ایجاد APIهای امن، ثبت دقیق فعالیت عاملهای هوشمند، نظارت مستمر بر تصمیمات خودکار، کنترل مجوزهای دسترسی و امکان مداخله انسانی در تصمیمات حساس است. هوش مصنوعی نباید بدون نظارت در زیرساختهای حیاتی اختیار کامل داشته باشد.
چالش اعتماد و کنترل
یکی از نگرانیهای اصلی نویسندگان، اعتماد بیش از حد به خروجیهای مدلهای هوش مصنوعی است. آنها هشدار میدهند که مدلهای زبانی ممکن است دچار توهم (Hallucination)، تحلیل نادرست یا استدلال اشتباه شوند. بنابراین تصمیمات مهم امنیتی باید همچنان تحت نظارت کارشناسان انسانی باقی بماند و سامانههای هوش مصنوعی بهعنوان ابزار کمکی مورد استفاده قرار گیرند، نه جایگزین کامل تحلیلگران.
نیروی انسانی همچنان نقش کلیدی دارد
برخلاف برخی پیشبینیها، مقاله نتیجه میگیرد که هوش مصنوعی باعث حذف متخصصان امنیت سایبری نخواهد شد. نقش متخصصان از انجام فعالیتهای تکراری به سمت طراحی سیاستها، مدیریت ریسک، اعتبارسنجی تصمیمات هوش مصنوعی، تحلیل تهدیدات پیچیده و نظارت بر عاملهای خودمختار تغییر خواهد کرد. بنابراین تقاضا برای نیروی انسانی متخصص همچنان بالا باقی خواهد ماند، اما مهارتهای مورد نیاز دستخوش تحول خواهد شد.
جمعبندی
نویسندگان نتیجه میگیرند که هوش مصنوعی آینده امنیت سایبری را از نظر سرعت، مقیاس و میزان خودکارسازی متحول خواهد کرد، اما ماهیت این حوزه تفاوت اساسی با گذشته نخواهد داشت. همانند تمام انقلابهای فناوری پیشین، موفقیت در امنیت سایبری همچنان به اجرای صحیح اصول بنیادین، مدیریت ریسک، معماری مقاوم، آموزش نیروی انسانی و انطباق سریع با فناوریهای جدید وابسته است. از این رو، آینده امنیت سایبری اگرچه با هوش مصنوعی هدایت خواهد شد، اما بیش از هر چیز یادآور درسهای گذشته خواهد بود.