این گزارش پژوهشی RAND نتایج یک مطالعه عملیاتی بر روی تأثیر مدلهای پیشرفته هوش مصنوعی در اجرای حملات سایبری تهاجمی را ارائه میکند. پژوهش با استفاده از تیمهای انسانی و سناریوهای واقعی ارزیابی کرده است که آیا مدلهای زبانی مرزی میتوانند توانایی مهاجمان را در انجام عملیات نفوذ افزایش دهند یا خیر. نتایج نشان میدهد اگرچه این مدلها بهرهوری و سرعت برخی فعالیتها را افزایش میدهند، اما در وضعیت فعلی هنوز جهش چشمگیری در قابلیت انجام حملات پیچیده ایجاد نکردهاند و تخصص انسانی همچنان عامل تعیینکننده موفقیت عملیات سایبری است. 
هدف پژوهش
این مطالعه با هدف ارزیابی تجربی میزان تأثیر مدلهای زبانی پیشرفته بر عملیات تهاجمی سایبری انجام شده است. برخلاف بسیاری از تحلیلهای نظری، پژوهشگران تلاش کردند عملکرد واقعی انسانها را هنگام استفاده از مدلهای هوش مصنوعی در سناریوهای عملی اندازهگیری کنند تا مشخص شود این فناوری تا چه اندازه میتواند قابلیتهای مهاجمان را افزایش دهد.
روش تحقیق
پژوهش از روش Human Uplift Study استفاده کرده است؛ رویکردی که در آن افراد با سطوح مختلف مهارت سایبری، مجموعهای از مأموریتهای تهاجمی را با و بدون استفاده از مدلهای زبانی پیشرفته انجام میدهند. عملکرد شرکتکنندگان از نظر سرعت، کیفیت تصمیمگیری، میزان موفقیت و بهرهوری عملیاتی با یکدیگر مقایسه شد تا اثر واقعی هوش مصنوعی بر اجرای عملیات مشخص شود.
سناریوهای مورد بررسی
آزمایشها طیف گستردهای از فعالیتهای چرخه حمله سایبری را شامل میشد؛ از جمعآوری اطلاعات و شناسایی اهداف گرفته تا تحلیل آسیبپذیری، توسعه کد، برنامهریزی حمله، مستندسازی، تحلیل خروجی ابزارها و حل مسائل فنی. هدف آن بود که تأثیر مدلهای هوش مصنوعی در تمامی مراحل عملیات مورد ارزیابی قرار گیرد.
نتایج اصلی
نتایج نشان داد استفاده از مدلهای مرزی هوش مصنوعی در بسیاری از وظایف باعث کاهش زمان انجام کار، تسریع تولید کد، بهبود کیفیت مستندسازی و افزایش سرعت تحلیل اطلاعات میشود. با این حال، این بهبودها لزوماً به موفقیت بیشتر در اجرای حملات پیچیده منجر نشدند و در اغلب موارد همچنان نیاز به تصمیمگیری تخصصی، تجربه عملی و تحلیل انسانی وجود داشت.
تأثیر بر مهاجمان کمتجربه
مطالعه نشان میدهد بیشترین مزیت مدلهای زبانی برای افراد کمتجربه مشاهده شد. این افراد توانستند بسیاری از وظایف فنی را سریعتر انجام دهند، مفاهیم تخصصی را بهتر درک کنند و خطاهای رایج را آسانتر برطرف کنند. با این حال، حتی در این گروه نیز مدلهای هوش مصنوعی جایگزین دانش عمیق امنیت سایبری نشدند.
محدودیتهای مدلهای فعلی
پژوهشگران گزارش میکنند که مدلهای کنونی هنوز در برنامهریزی حملات چندمرحلهای، تحلیل محیطهای پیچیده، سازگاری با شرایط غیرمنتظره، انتخاب بهترین مسیر نفوذ و تصمیمگیری راهبردی محدودیتهای قابل توجهی دارند. علاوه بر این، خطاهای استدلالی و تولید پاسخهای نادرست همچنان یکی از چالشهای اصلی استفاده عملیاتی از این مدلها محسوب میشود.
پیامدهای امنیتی
گزارش تأکید میکند که اگرچه مدلهای زبانی در وضعیت فعلی تهدیدی تحولآفرین برای امنیت سایبری محسوب نمیشوند، اما روند سریع پیشرفت آنها میتواند در آینده این ارزیابی را تغییر دهد. بنابراین سازمانها باید علاوه بر پایش مستمر توانایی مدلهای جدید، فرایندهای دفاعی، آموزش نیروهای امنیتی و سامانههای تشخیص تهدید را متناسب با پیشرفت هوش مصنوعی بهروزرسانی کنند.
توصیههای سیاستی
نویسندگان پیشنهاد میکنند دولتها، مراکز تحقیقاتی و شرکتهای توسعهدهنده مدلهای هوش مصنوعی بهطور مستمر قابلیتهای امنیتی مدلهای جدید را ارزیابی کنند، آزمایشهای Red Team را توسعه دهند، روشهای استاندارد سنجش ریسک ایجاد کنند و همکاری میان صنعت، دانشگاه و نهادهای امنیتی را برای پایش سوءاستفادههای احتمالی از هوش مصنوعی تقویت نمایند. همچنین سرمایهگذاری در ابزارهای دفاعی مبتنی بر هوش مصنوعی میتواند به ایجاد توازن میان توان مهاجمان و مدافعان کمک کند.
جمعبندی
این مطالعه یکی از نخستین ارزیابیهای تجربی در مقیاس بزرگ درباره نقش مدلهای زبانی پیشرفته در عملیات تهاجمی سایبری محسوب میشود. یافتهها نشان میدهد هوش مصنوعی در حال حاضر بیشتر نقش یک ابزار افزایش بهرهوری را ایفا میکند تا یک عامل تحولآفرین در توان تهاجمی مهاجمان. با این وجود، سرعت پیشرفت مدلهای مرزی ایجاب میکند که ارزیابیهای مشابه بهصورت مستمر تکرار شوند تا تغییرات سطح تهدید بهموقع شناسایی شود.