هفائستوس: به‌سوی یک دانشمند هوش مصنوعی در حوزه امنیت سایبری

این مقاله مفهوم «Cybersecurity AI Scientist» یا «دانشمند هوش مصنوعی امنیت سایبری» را معرفی می‌کند؛ یک چارچوب پژوهشی بومی‌شده برای امنیت سایبری که در آن هوش مصنوعی نه‌فقط وظایف امنیتی، بلکه کل فرایند پژوهش، از تعریف مسئله و مدل‌سازی تهدید تا تولید ابزار، اجرای آزمایش کنترل‌شده، ارزیابی، حاکمیت و گزارش علمی را مدیریت می‌کند. نویسندگان استدلال می‌کنند که امنیت سایبری به دلیل ماهیت خصمانه، دوکاربردی، غیرایستا و مبتنی بر شواهد، نمی‌تواند صرفاً با انتقال معماری‌های عمومی «AI Scientist» پوشش داده شود. چارچوب پیشنهادی بر چهار محور «ریسک، اعتماد، رخداد و انرژی» استوار است و یک معماری چندعاملی با نقش‌های تخصصی، بسته‌های قابلیت محدود، ابزارهای صریح، محیط‌های کنترل‌شده، دوقلوهای دیجیتال و cyber range را پیشنهاد می‌کند. مقاله همچنین چهار دستورکار پژوهشی شامل کشف نقص‌های پنهان، کمک‌رسانی کالیبره‌شده، «لشکرهای عامل» مقاوم و بررسی راهبردی و اخلاقی را مطرح می‌کند. این اثر یک مقاله چارچوبی است و سامانه تجربی کامل یا نتایج benchmark جدید ارائه نمی‌کند؛ هدف آن تعریف یک شیء پژوهشی جدید و معماری اولیه برای توسعه سامانه‌ها، benchmarkها و برنامه‌های تجربی آینده است.

عنوان و مشخصات مقاله

عنوان مقاله «Hephaestus: Toward a Cybersecurity AI Scientist» است. نویسندگان آن Jiaqi Li، Yang Zhao، Wen Lu، Lvyang Zhang و Lidong Zhai هستند و وابستگی سازمانی آن‌ها Institute of Information Engineering، Chinese Academy of Sciences، Beijing, China و School of Cyber Security، University of Chinese Academy of Sciences، Beijing, China است. مقاله در ژوئن ۲۰۲۶ تهیه شده و نسخه arXiv آن با شناسه 2606.29981v1 در ۲۹ ژوئن ۲۰۲۶ منتشر شده است. موضوع مقاله در حوزه Cryptography and Security قرار می‌گیرد.

چکیده

سرعت عملیات تهاجمی سایبری در حال حرکت به سوی سرعت ماشین است، اما خود پژوهش سایبری هنوز با همان سرعت پیش نمی‌رود. سامانه‌های موجود AI Scientist، خودکارسازی end-to-end پژوهش را بیش از پیش امکان‌پذیر کرده‌اند، اما عمدتاً حوزه‌های علمی نسبتاً پایدار را هدف گرفته‌اند. نویسندگان استدلال می‌کنند که امنیت سایبری بومی هوش مصنوعی، نوع متفاوتی از شیء علمی است. واحدهای تکرارشونده مطالعه در این حوزه، رخدادهای امنیتی و ردپاهای تعامل هستند، نه دارایی‌های ایستا؛ زیرساخت مدل و ابزار آن نیز غیرایستا است و در وضعیت ثابت باقی نمی‌ماند. همچنین ارزیابی معتبر به digital twinها، cyber rangeها و شواهد قابل ممیزی وابسته است، نه یک امتیاز benchmark واحد. نویسندگان این شیء را «Cybersecurity AI Scientist» می‌نامند. یک تحقق عملی آن می‌تواند یک سامانه پژوهشی چندعاملی، ماژولار و مبتنی بر نقش‌های تخصصی باشد که تعریف مسئله، مدل‌سازی تهدید، تولید ابزار، آزمایش کنترل‌شده، ارزیابی، حاکمیت و گزارش علمی را هماهنگ کند و اهداف عینی خود را در چارچوب چهار صفر شامل ابعاد ریسک، اعتماد، رخداد و انرژی قرار دهد. مقاله به‌عنوان یک دستورکار نماینده بر دفاع بومی هوش مصنوعی تمرکز می‌کند؛ جایی که محیط‌های دفاعی ایستا جای خود را به لشکرهای عامل مقاوم می‌دهند و مفهوم سنتی امنیت پایانه به «امنیت عامل» تجزیه می‌شود. این مقاله شیء موردنظر را تعریف می‌کند، آن را از هر تحقق سازمانی خاص جدا می‌سازد و معماری و دستورکاری ارائه می‌دهد که سامانه‌ها، benchmarkها و برنامه‌های تجربی بعدی می‌توانند بر اساس آن ساخته شوند.

۱. مقدمه

دو مسیر در حوزه امنیت سایبری شروع به همگرایی کرده‌اند. از یک سو، عامل‌های مستقل هوش مصنوعی وارد قلمرو عملیاتی شده‌اند: عامل‌های مبتنی بر مدل زبانی می‌توانند آسیب‌پذیری‌های one-day واقعی را exploit کنند و تیم‌های چندعاملی عملکرد بهتری در سناریوهای دشوار zero-day نشان داده‌اند. از سوی دیگر، سامانه‌های AI Scientist خود فرایند پژوهش را به سمت خودکارسازی می‌برند؛ این سامانه‌ها دارای pipelineهای end-to-end هستند که ایده تولید می‌کنند، کد می‌نویسند، آزمایش اجرا می‌کنند، مقاله تهیه می‌کنند و peer review شبیه‌سازی‌شده انجام می‌دهند. همچنین پلتفرم‌های domain scientist در زیست‌شناسی و زیست‌پزشکی، تولید فرضیه چندعاملی، برنامه‌ریزی آزمایش و تحلیل را سازمان‌دهی می‌کنند.

همگرایی دو مسیر و خلأ پژوهشی

این دو مسیر تاکنون عمدتاً موازی پیش رفته‌اند. پژوهش AI Scientist در اشیای علمی نسبتاً پایدار بالغ شده است؛ یعنی سیستم مورد مطالعه هنگام مطالعه شدن خود را تغییر نمی‌دهد. در مقابل، پژوهش عامل‌های امنیت سایبری بر اجرای وظیفه و عملکرد benchmark متمرکز بوده و از تست نفوذ و exploitation خودکار تا ارزیابی توانایی متخصص سایبری و امنیت خود عامل‌ها را دربر گرفته است. بنابراین امنیت سایبری به یک حوزه پیشرو برای قابلیت و کنترل هوش مصنوعی تبدیل شده، اما هنوز به‌عنوان یک شیء پژوهشی در سطح «دانشمند» چارچوب‌بندی نشده است.

چرا انتقال ساده AI Scientist کافی نیست

نویسندگان استدلال می‌کنند که این شکاف با انتقال ساده یک سامانه AI Scientist عمومی به حوزه امنیت سایبری برطرف نمی‌شود. زیرساخت پژوهش امنیت سایبری به‌طور غیرمعمولی برای pipelineهای عمومی AI Scientist سخت‌گیرانه است. مهاجمان به همان قابلیت‌هایی که برای مطالعه آن‌ها استفاده می‌شود واکنش نشان می‌دهند. فشار dual-use ساختاری است، نه حاشیه‌ای. پلتفرم‌های مدل، guardrailها و قابلیت‌های ابزارها در مقیاسی سریع‌تر از چرخه پژوهش تغییر می‌کنند. علاوه بر این، اعتبار نتیجه‌گیری‌ها به محیط‌ها، digital twinها و زنجیره‌های شواهد وابسته است که خودشان بخشی از روش پژوهش محسوب می‌شوند. بنابراین چیزی که موردنیاز است صرفاً تغییر نام یک pipeline عامل‌محور نیست، بلکه یک شیء پژوهشی مخصوص امنیت سایبری است.

تعریف Cybersecurity AI Scientist

نویسندگان مفهوم Cybersecurity AI Scientist را به‌عنوان یک قابلیت پژوهشی AI-native تعریف می‌کنند که در آن تغییر مسئله علمی و تغییر پارادایم پژوهش در امنیت سایبری همزمان جدی گرفته می‌شوند. در سطح سیستم، یک تحقق عملی و قابل‌اجرا می‌تواند یک سامانه پژوهشی چندعاملی، ماژولار و مبتنی بر نقش باشد که تعریف مسئله، تحلیل ادبیات و تهدید، تولید ابزار، آزمایش با digital twin، ارزیابی، تحلیل آگاه از حاکمیت و گزارش علمی را از طریق عامل‌های تخصصی، بسته‌های قابلیت قابل استفاده مجدد و ابزارهای محدود هماهنگ می‌کند.

مشارکت‌های اصلی مقاله

مقاله چهار مشارکت اصلی ارائه می‌کند: نخست، Cybersecurity AI Scientist را به‌عنوان یک شیء پژوهشی متمایز تعریف می‌کند، نه صرفاً نامی جدید برای سامانه‌های عمومی AI Scientist. دوم، تغییر مسئله و تغییر پارادایم پژوهش ناشی از شرایط امنیتی AI-native را مشخص کرده و اهداف آن را در چارچوب چهار صفر شامل ریسک، اعتماد، رخداد و انرژی قرار می‌دهد. سوم، یک معماری و pipeline پژوهشی ارائه کرده و یک سامانه پژوهشی چندعاملی ماژولار را حول نقش‌های تخصصی و بسته‌های قابلیت قابل استفاده مجدد سازمان‌دهی می‌کند. چهارم، دفاع AI-native، از جمله لشکرهای عامل مقاوم و تجزیه امنیت پایانه به امنیت عامل، را به‌عنوان یک دستورکار آینده‌نگر مطرح می‌کند.

۲. کارهای مرتبط

این کار در تقاطع چهار حوزه قرار دارد: هوش مصنوعی برای پژوهش، سامانه‌های مستقل AI Scientist، سامانه‌های کشف علمی تخصصی و عامل‌ها و benchmarkهای امنیت سایبری. ادبیات نزدیک به این کار اجزای مهمی ارائه کرده است، اما هنوز امنیت سایبری را به‌عنوان یک شیء پژوهشی در سطح دانشمند در نظر نمی‌گیرد.

۲.۱ هوش مصنوعی برای پژوهش و مطالعات AI Scientist

مطالعات مروری اخیر، حوزه گسترده AI برای پژوهش علمی و سامانه‌های AI Scientist را سازمان‌دهی کرده‌اند و موضوعاتی مانند کشف فرضیه، برنامه‌ریزی آزمایش، نگارش علمی، peer review و pipeline end-to-end پژوهش را پوشش می‌دهند. این آثار روشن می‌کنند که AI چگونه کل پژوهش را تغییر می‌دهد، اما domain-agnostic هستند و با محدودیت‌های خصمانه و dual-use امنیت سایبری درگیر نمی‌شوند.

۲.۲ سامانه‌های عمومی دانشمند خودکار

The AI Scientist یک pipeline حلقه‌بسته از ایده‌پردازی تا تهیه مقاله و review شبیه‌سازی‌شده را نشان داد و عمدتاً بر حوزه‌های یادگیری ماشین متمرکز بود. AI Scientist-v2 با استفاده از agentic tree search و وابستگی کمتر به templateها، خودکارسازی را بیشتر کرده است. این سامانه‌ها نشان می‌دهند پژوهش end-to-end مبتنی بر AI امکان‌پذیر است، اما برای محیط‌های محاسباتی پایدار تنظیم شده‌اند، نه زیرساخت‌های پژوهشی خصمانه.

۲.۳ سامانه‌های دانشمند تخصصی

Co-Scientist همکاری علمی را به‌صورت سامانه‌ای چندعاملی برای تولید فرضیه و توسعه proposal در حوزه کشف زیست‌پزشکی صورت‌بندی می‌کند و Robin این مسیر را به سمت تولید فرضیه، آزمایش و تحلیل در زیست‌شناسی گسترش می‌دهد. PaperQA2 عملکرد عامل ادبیات علمی را در وظایف synthesis واقع‌گرایانه نشان می‌دهد و ERA تولید نرم‌افزار تجربی در سطح متخصص برای کشف محاسباتی را هدف قرار می‌دهد. این آثار سامانه‌های domain scientist را اعتبارسنجی می‌کنند، اما اشیای علمی آن‌ها عمدتاً غیرخصمانه هستند.

۲.۴ عامل‌ها، benchmarkها و ارزیابی امنیت سایبری

یک مسیر جداگانه به‌سرعت خودکارسازی وظایف امنیت سایبری را پیش برده است. PentestGPT و HackSynth زمینه تست نفوذ خودکار را ایجاد کردند و کارهای بعدی نشان دادند عامل‌های LLM می‌توانند آسیب‌پذیری‌های one-day واقعی را exploit کنند و تیم‌های عامل می‌توانند exploitation آسیب‌پذیری‌های zero-day را بهبود دهند. سامانه‌های جدیدتر orchestration، planning، tooling و هماهنگی red-team را توسعه داده‌اند و benchmarkهایی مانند CVE-Bench، CyberGym و سناریوهای multi-step attack ارزیابی را به سناریوهای واقع‌گرایانه و مقیاس‌پذیر نزدیک کرده‌اند. همزمان، پژوهش ارزیابی و ایمنی نیز توسعه یافته است: CyberSecEval 2/3، Digital Cybersecurity Expert، Cyber Defense Benchmark، OpenSec، ExploitGym و پژوهش‌های اختصاصی درباره benchmarkهای امنیت تهاجمی و امنیت معماری عامل‌ها.

۲.۵ مدل‌های frontier دارای قابلیت سایبری و سامانه‌های عملیاتی

سه تحول اخیر یک تغییر کیفی ایجاد کرده‌اند. نخست، مدل‌های frontier از یک آستانه قابلیت عبور کرده‌اند. Anthropic مدل Claude Mythos Preview را تحت Project Glasswing معرفی کرد؛ مدلی که قابلیت تهاجمی سایبری آن آن‌قدر بالا بود که انتشار آن به یک برنامه شریکِ مورد تأیید محدود شد و گزارش‌های بعدی کشف نقص‌های گسترده در نرم‌افزارهای مستقر را به آن نسبت داده‌اند. دوم، مدل‌های foundation عمودی برای امنیت در حال ظهور هستند و Foundation Security LLM مبتنی بر Llama-3.1 یک پایه تخصصی امنیت سایبری ارائه می‌کند. سوم، امنیت کمک‌گرفته از AI از prototype به deployment رسیده است. معماری Guided Response شرکت Microsoft برای Security Copilot یک سامانه تولیدی را مستند می‌کند که حول triage رخداد، پیشنهاد اقدام و بازیابی رخدادهای مشابه از یک مجموعه بزرگ رخدادهای واقعی ساخته شده است. نویسندگان می‌گویند این موارد دیگر benchmarkهای منفرد نیستند، بلکه نشانه آن هستند که مدل‌های frontier دارای قابلیت سایبری، مدل‌های foundation عمودی و سامانه‌های امنیتی عملیاتی AI همگی همزمان در حال ورود به مقیاس برنامه‌ای هستند.

۲.۶ شکاف پژوهشی

در مجموع، ادبیات موجود نشان می‌دهد پژوهش عامل‌های سایبری از نظر روش‌شناسی غنی و متراکم شده و پژوهش AI Scientist نیز برای حوزه‌های پایدار به بلوغ رسیده است. چیزی که هنوز وجود ندارد «شیء مشترک» میان این دو حوزه است. کارهای امنیت سایبری بر اجرای وظیفه، benchmark یا ایمنی عامل تمرکز دارند و کارهای AI Scientist بر اشیای پایدار و غیرخصمانه. هیچ‌کدام امنیت سایبری را به‌عنوان یک فرایند علمی سازمان‌یافته در ذات خود در نظر نمی‌گیرند. نویسندگان Cybersecurity AI Scientist را دقیقاً در همین شکاف قرار می‌دهند.

۳. تغییرات به‌هم‌پیوسته: مسئله و پارادایم

پژوهش کلاسیک امنیت سایبری عمدتاً حول مهاجمان انسانی، مدافعان انسانی و تحلیلگران انسانی سازمان یافته بود؛ ابزارهای نرم‌افزاری نسبتاً پایدار بودند و حلقه‌های سازگاری با سرعت انسان انجام می‌شدند. بخش قابل‌توجهی از این حوزه بنابراین حول bottleneckهای انسانی ساخته شده بود: کمبود متخصص، توسعه کند ابزار، طراحی دستی آزمایش و ترکیب دیرهنگام شواهد. شرایط AI-native این تصویر را از دو جهت همزمان تغییر می‌دهد.

۳.۱ تغییر مسئله

با مشارکت فزاینده سامانه‌های خودکار در فرایندهای تهاجمی و دفاعی، بخشی مهم از مسائل امنیت سایبری از حالت انسان در برابر انسان به AI در برابر AI تبدیل می‌شود. برخی پرسش‌ها درباره رفتار تحلیلگر یا کارایی workflow به پرسش‌های مهندسی درباره orchestration و تنظیم policy تبدیل می‌شوند. همزمان پرسش‌های علمی جدیدی پدیدار می‌شوند: heuristicهای دفاعی چگونه در جوامع عامل انباشته می‌شوند؟ سازگاری خصمانه در چرخه‌های تکرار با سرعت ماشین چگونه رفتار می‌کند؟ اکوسیستم‌های مدل قابل‌تغییر چگونه ریسک را تغییر می‌دهند؟ و زمانی که هر دو طرف تا حدی مستقل هستند، چه چیزی به‌عنوان شواهد قابل‌اعتماد محسوب می‌شود؟ در نتیجه، واحد طبیعی مطالعه نیز تغییر می‌کند. رخدادهای امنیتی، ردپاهای تعامل و سناریوهای پویا، ابزار پژوهشی مناسب‌تری نسبت به دارایی‌های ثابت و وظایف یک‌مرحله‌ای می‌شوند. تعریف مسئله باید سازگاری، هماهنگی، containment و تولید شواهد را نیز دربرگیرد، نه فقط موفقیت در انجام وظیفه.

۳.۲ تغییر پارادایم

همین شرایط سازمان‌دهی پژوهش را نیز تغییر می‌دهد. پژوهش امنیت سایبری از حالت human-led، از مسیر همکاری انسان و AI، به سمت اجرای AI-led تحت تعیین دستورکار توسط انسان حرکت می‌کند؛ در این وضعیت تعداد کمی پژوهشگر ارشد پرسش‌ها، محدودیت‌ها و معیارهای پذیرش را تعیین می‌کنند و بخش بزرگی از اجرا به عامل‌های پژوهشی هماهنگ سپرده می‌شود. این تغییر در امنیت سایبری نسبت به بسیاری از حوزه‌های دیگر شدیدتر است، زیرا خود زیرساخت ناپایدار است: سیاست‌های دسترسی مدل تغییر می‌کنند، قابلیت ابزارها تغییر می‌کند، guardrailها تکامل می‌یابند، محیط‌های ارزیابی دچار drift می‌شوند و چشم‌انداز تهدید در واکنش به قابلیت‌های جدید تغییر می‌کند. روشی که امروز کار می‌کند ممکن است فردا غیرقابل استفاده باشد و workflow چندمرحله‌ای فعلی ممکن است به یک مرحله فروکاسته شود. بنابراین زیرساخت non-stationary است و pipeline باید به‌صورت مداوم کالیبره شود.

چرا سامانه نباید تک‌مدلی باشد

این تغییر پارادایم به‌ندرت داستان یک مدل واحد است. ممکن است یک مدل در برنامه‌ریزی exploitation قوی‌تر باشد، مدل دیگر در code synthesis، مدل دیگر در مدیریت شواهد با context طولانی و مدل دیگر در اجرای ایمن تحت محدودیت‌های policy قوی‌تر عمل کند. شواهد موجود نیز نشان می‌دهند مدل‌های مختلف شکاف‌های دانشی متفاوتی در نقش‌های مختلف و رفتارهای متفاوتی در تست نفوذ end-to-end دارند. بنابراین Cybersecurity AI Scientist را نمی‌توان یک endpoint تک‌مدلی در نظر گرفت. این سیستم بهتر است یک لایه orchestration کالیبره‌شده روی چند مدل، ابزار و evaluator باشد که نقاط قوت مکمل آن‌ها را اندازه‌گیری و به‌صورت مناسب route کند. همچنین حاکمیت باید درون روش پژوهش قرار گیرد: محدوده مجوزها، containment مربوط به dual-use، جداسازی آزمایش و مرزهای انتشار باید بخشی از طراحی باشند، نه لایه‌ای بیرونی.

۴. تعریف Cybersecurity AI Scientist

نویسندگان Cybersecurity AI Scientist را شیء و چارچوب پژوهشی AI-native مخصوص امنیت سایبری تعریف می‌کنند که زمانی پدیدار می‌شود که تغییر مسئله علمی و تغییر پارادایم پژوهش همزمان جدی گرفته شوند. این مفهوم نوعی قابلیت پژوهشی را نام‌گذاری می‌کند که زمانی لازم است که شیء مورد مطالعه سازگارشونده، پرریسک و به‌شدت متصل به زیرساخت فنی سریعاً در حال تحول باشد. تعریف عمداً از یک سازمان یا پیاده‌سازی خاص جدا شده است. یک تحقق عملی می‌تواند سامانه چندعاملی ماژولاری باشد که قابلیت‌های قابل استفاده مجدد را به‌صورت operatorهای محدود یا بسته‌های رویه‌ای ارائه می‌کند؛ اما مفهوم به یک روش پیاده‌سازی خاص وابسته نیست.

تفاوت با عامل حمله یا دفاع

هدف ساخت یک عامل همه‌توان نیست که همه وظایف پژوهشی را انجام دهد و همچنین هدف صرفاً ساخت یک operator تهاجمی یا دفاعی قدرتمندتر نیست. هدف، سازمان‌دهی پژوهش امنیت سایبری به‌صورت یک سیستم هماهنگ از نقش‌های تخصصی است که هر نقش روی بسته‌های قابلیت قابل استفاده مجدد، ابزارهای صریح، مجوزهای محدود و خروجی‌های ساختاریافته کار می‌کند. این مفهوم حداقل از چهار جهت با AI Scientist عمومی تفاوت دارد: برای شرایط خصمانه و dual-use طراحی شده است؛ باید روی زیرساخت non-stationary شامل cyber range، digital twin و پلتفرم‌های قابل تغییر کار کند؛ باید مدل‌ها و evaluatorهای ناهمگون را هماهنگ کند؛ و باید علاوه بر اجرای تجربی، استدلال آگاه از حاکمیت، threat framing و توسعه فرضیه راهبردی را پشتیبانی کند. یک penetration-testing agent، سیستم exploitation آسیب‌پذیری یا دستیار threat hunting ممکن است جزئی از چنین چارچوبی باشد، اما هیچ‌کدام به‌تنهایی Cybersecurity AI Scientist نیستند. ویژگی تعیین‌کننده، سازمان‌دهی سیستم پژوهش است: حرکت منسجم از تعریف پرسش تا طراحی آزمایش، ساخت ابزار، اجرای کنترل‌شده، ارزیابی، تفسیر و گزارش علمی.

۴.۱ اهداف: چارچوب چهار صفر

نویسندگان برای Cybersecurity AI Scientist یک چارچوب «چهار صفر» ارائه می‌کنند که ابعاد اصلی انباشت ریسک در امنیت AI-native را پوشش می‌دهد. هر صفر یک نوع شکست متمایز را نام‌گذاری می‌کند که سیستم پژوهشی باید آن را مطالعه، کاهش و در نهایت محدود کند. این چهار محور مانع از آن می‌شوند که چارچوب صرفاً به زبان فناوری یا صرفاً به زبان حاکمیت فروکاسته شود.

صفر ریسک

در بُعد Risk، پرسش علمی درباره «Zero hidden defects» یا نقص‌های پنهان در سیستم‌هاست. تمرکز اصلی روی ماشین یا سیستم قرار دارد و پیامد آن برای سامانه پژوهشی، inquiry مبتنی بر رخداد درباره چگونگی انباشت، انتشار و ماندگاری نقص‌ها تحت تغییرات AI-mediated است.

صفر اعتماد

در بُعد Trust، هدف «Zero implicit trust» یا حذف اعتماد ضمنی ناشی از خطای انسانی است. تمرکز بر انسان قرار دارد و سیستم باید calibration، ارزیابی هم‌راستا با نقش و طراحی کمک‌رسانی را دنبال کند، به‌گونه‌ای که کنترل را به‌صورت نامحسوس از انسان منتقل نکند.

صفر رخداد

در بُعد Incident، هدف «Zero incidents» ناشی از خطای عملیاتی است. تمرکز روی رخداد قرار دارد و سیستم باید پژوهش مبتنی بر سناریو، محیط‌های قابل replay، pipelineهای شواهد و live-fire validation را پشتیبانی کند.

صفر انرژی

در بُعد Energy، هدف «Zero loss» در پیامدهای سازمانی و بوم‌شناختی است. تمرکز در سطح سازمان یا enterprise قرار دارد و implication آن برای پژوهش، تداوم دستورکار در افق بلندمدت، framing راهبردی و پژوهش حاکمیت نهادی است.

۵. معماری چارچوب

تحقق سیستمی چارچوب را می‌توان هم به‌صورت معماری لایه‌ای و هم به‌صورت pipeline پژوهشی دید. pipeline با تعیین دستورکار آغاز می‌شود؛ یعنی پرسش‌های راهبردی، تعریف سناریوها و محدودیت‌های حاکمیتی. سپس به ترتیب از problem framing، تحلیل ادبیات و تهدید، toolsmithing، اجرای کنترل‌شده، ارزیابی و گزارش علمی عبور می‌کند. روی این جریان یک لایه نقش شامل عامل‌های تعریف مسئله، عامل‌های ادبیات، عامل‌های مدل‌سازی تهدید، عامل‌های toolsmithing، مدیران آزمایش، evaluatorها و عامل‌های گزارش قرار دارد. این عامل‌ها generalistهای آزاد نیستند و از رویه‌های محدود و قابلیت‌های قابل استفاده مجدد استفاده می‌کنند.

لایه بسته‌بندی قابلیت

در زیر لایه نقش، یک لایه capability-packaging قرار دارد. قابلیت‌های قابل استفاده مجدد به‌صورت operatorهای محدود یا ماژول‌های رویه‌ای با قراردادهای صریح ورودی-خروجی، فرض‌های عملیاتی، محدوده مجوز و routineهای قابل استفاده مجدد بسته‌بندی می‌شوند. این طراحی coordination را ماژولارتر و قابل ممیزی می‌کند، امکان reuse بخشی قابلیت‌ها میان پروژه‌ها را فراهم می‌سازد و یک رابط شفاف برای حاکمیت ایجاد می‌کند؛ زیرا مجوزها می‌توانند در سطح package محدود شوند و میزان exposure کنترل شود.

لایه ابزار و runtime

در لایه tool and runtime اجرای واقعی انجام می‌شود: code generation، orchestration آزمایش، model routing، مدیریت داده، pipelineهای judge و evaluator و کنترل runtime. در امنیت سایبری این لایه باید با یک لایه محیطی شامل digital twinها، cyber rangeها، sandboxها، replay systemها و pipelineهای ثبت شواهد همراه باشد. محیط یک ظرف منفعل نیست؛ بخشی از روش پژوهش است، زیرا اعتبار یافته‌های سایبری به containment، مشاهده‌پذیری، قابلیت replay و واقع‌گرایی سناریو وابستگی زیادی دارد. محیط‌های ضعیف می‌توانند حتی در صورت داشتن نتایج benchmark ظاهراً قوی، نتیجه‌گیری‌های گمراه‌کننده تولید کنند.

لایه artifact

چارچوب در نهایت به یک artifact layer ختم می‌شود که خروجی‌های آن فقط تکمیل وظایف نیستند؛ بلکه شامل پرسش‌های پژوهشی، threat modelها، ابزارها، پیکربندی‌ها، ردپاهای آزمایش، خلاصه‌های ارزیابی، تحلیل‌های حاکمیتی و متن آماده مقاله نیز می‌شوند. Cybersecurity AI Scientist با یک امتیاز یا benchmark منفرد تعریف نمی‌شود؛ ارزش آن در تولید ساختاریافته پژوهش در کل چرخه inquiry قرار دارد.

فشارهای طراحی و پاسخ‌های موردنیاز

مقاله چند فشار طراحی را از AI Scientist عمومی متمایز می‌کند. در برابر adversaryهای سازگارشونده، سیستم به threat-aware framing، ارزیابی تکرارشونده red-blue و deployment محدود نیاز دارد. در برابر استفاده از رخدادهای امنیتی به‌عنوان واحد مطالعه، باید problem formulation مبتنی بر رخداد و artifactهای trace-centered ایجاد شود. برای زیرساخت non-stationary، orchestration ماژولار، پیکربندی سریع و recalibration لازم است. برای ناهمگونی قابلیت مدل‌ها، model routing، تنوع evaluatorها و هماهنگی نقش‌محور لازم است. برای اهداف دفاعی ناهمگون، طراحی سناریو آگاه از هدف و مسیرهای ارزیابی domain-specific موردنیاز است. برای dual-use، permission scope، containment، auditability و release boundary ضروری هستند. و برای ارزیابی مبتنی بر شواهد، digital twin، cyber range، ثبت شواهد و validation مرتبط با حاکمیت لازم است.

۶. دستورکارهای نماینده در چارچوب چهار صفر

چارچوب چهار صفر صرفاً یک خلاصه تزئینی نیست؛ ستون فقراتی است که دستورکارهای پژوهشی مشخص روی آن قرار می‌گیرند. هر محور یک کلاس شکست را مشخص می‌کند که Cybersecurity AI Scientist باید آن را مطالعه، سازمان‌دهی و در نهایت محدود کند. هر محور همچنین با یک دستورکار آینده‌نگر پژوهشی مرتبط است که در جامعه علمی در حال شکل‌گیری است و زمانی که به‌عنوان پرسش Cybersecurity AI Scientist مطرح شود، از یک benchmark یا مسئله تک‌عاملی دقیق‌تر خواهد بود.

۶.۱ محور ریسک: کشف نقص‌های پنهان تحت تغییرات AI-mediated

ماه‌های اخیر نشان داده‌اند مدل‌های frontier و مدل‌های تخصصی سایبری می‌توانند نقص‌های واقعی را در مقیاسی کشف کنند که ادبیات benchmark قبلی برای آن طراحی نشده بود. Claude Mythos Preview شرکت Anthropic که تحت Project Glasswing عرضه شد، به‌طور خاص از دسترسی عمومی محروم شد، زیرا قابلیت تهاجمی آن به‌اندازه‌ای قوی بود که نیازمند برنامه شریک مورد تأیید شد. گزارش‌های مربوط به deployment، کشف گسترده نقص‌ها در نرم‌افزارهای مورد استفاده گسترده، از جمله نقص‌های بسیار قدیمی، را به این مدل نسبت داده‌اند. Google Big Sleep و DARPA AIxCC نیز همین روند را در مقیاس برنامه‌ای نشان می‌دهند و ظهور مدل‌های foundation تخصصی امنیت نشان می‌دهد زیرساخت‌های تخصصی سایبری اکنون به یک جزء اصلی تبدیل شده‌اند.

CyberGym و کشف آسیب‌پذیری‌ها

Benchmarkها نیز با این تغییر قابلیت حرکت کرده‌اند. CyberGym عامل‌ها را روی بیش از هزار آسیب‌پذیری واقعی در نزدیک به ۲۰۰ پروژه open-source ارزیابی می‌کند. مدل‌های frontier در گزارش‌های موجود، موفقیت single-trial در حد ده‌ها درصد و کشف مستقل zero-dayهای جدید را نشان داده‌اند و سامانه‌های تست نفوذ وب چندعاملی، exploitation end-to-end را توسعه می‌دهند. برای Cybersecurity AI Scientist، پرسش دیگر این نیست که «آیا مدل M می‌تواند نقص X را پیدا کند؟» بلکه این است که چگونه یک حلقه پژوهشی event-driven سازمان‌دهی شود که قابلیت مدل، ساخت سناریو، مدیریت شواهد و حاکمیت را در کلاس‌های متعدد نقص و در یک افق پژوهشی طولانی هماهنگ کند. در این دیدگاه، کشف نقص پنهان به یک فرایند علمی مستمر تبدیل می‌شود، نه مجموعه‌ای از نمایش‌های تک‌مرحله‌ای قابلیت.

۶.۲ محور اعتماد: کمک کالیبره‌شده، model routing و ارزیابی هم‌راستا با نقش

محور Trust به شرایطی می‌پردازد که در آن اپراتورهای انسانی بتوانند به یک سیستم پژوهشی و دفاعی تا حدی مستقل اعتماد کنند، بدون آنکه کنترل را به‌صورت نامحسوس از دست بدهند. واضح‌ترین نمونه عملیاتی مورد اشاره مقاله، معماری Guided Response شرکت Microsoft برای Security Copilot است که یک سیستم تولیدی مبتنی بر خلاصه‌سازی رخداد، پیشنهاد اقدام، بازیابی رخداد مشابه و grading را مستند می‌کند و calibration نسبت به رفتار تحلیلگر را به یک مسئله اصلی تبدیل می‌کند. پژوهش درباره قابلیت سایبری هم‌راستا با نقش نیز نشان می‌دهد مدل‌های مختلف blind spotها و رفتارهای متفاوتی در تست نفوذ end-to-end دارند؛ دقیقاً به همین دلیل چارچوب، orchestration چندمدلی را جزء ذاتی و نه اختیاری سیستم می‌داند. پرسش اصلی این محور این است که چه زمانی کمک AI شروع به انتقال کنترل از اپراتورها به شکلی می‌کند که اپراتورها قادر به تشخیص آن نیستند و چگونه باید سیستم پژوهشی طوری طراحی شود که این تغییر را آشکار کند، نه اینکه آن را در خود جذب کند.

۶.۳ محور رخداد: لشکرهای عامل مقاوم و تجزیه امنیت پایانه

مدل‌های دفاع سنتی، محیط‌های پیرامونی نسبتاً پایدار، مسئولیت‌های سازمانی مشخص و حلقه‌های تعمیر با سرعت انسانی را فرض می‌کنند و بسیاری از دفاع‌های سازمانی هنوز برای محیط‌های steady-state بهینه شده‌اند. این فرض‌ها زمانی تضعیف می‌شوند که هم حمله و هم دفاع توسط عامل‌های مستقل یا نیمه‌مستقل انجام شوند، سطح حمله سریع‌تر از چرخه patch تغییر کند و حتی مفهوم «application» به رفتار موقتی تولیدشده توسط عامل تبدیل شود.

لشکرهای عامل مقاوم

در چنین شرایطی، جهت پژوهشی طبیعی این نیست که تعداد محدودی سامانه دفاعی متمرکز با نقش‌های ثابت را مقاوم کنیم، بلکه باید «resilient agent legions» را مطالعه کنیم؛ جمعیت‌های پرتعداد و دارای افزونگی بالا از عامل‌های دفاعی که در مرزهای شبکه، لایه‌های مشاهده‌پذیری، کانال‌های هماهنگی و عملکردهای بازیابی توزیع شده‌اند. این لشکرها به‌صورت peer-to-peer ارتباط برقرار می‌کنند، به‌جای اینکه فقط log ردوبدل کنند، heuristicهای دفاعی را به اشتراک می‌گذارند و در طول زمان تجربه دفاعی محدودشده جمع می‌کنند. هر عامل یک event-and-defense capsule دارد؛ واحدی بسته‌بندی‌شده که یک کلاس رخداد امنیتی را به routineهای دفاعی مرتبط می‌کند و عامل اجازه دارد هنگام یادگیری آن را به‌روزرسانی کند. تنوع جمعیت که به‌صورت ساختار لایه‌ای یا fractal و نه یک template واحد سازمان‌دهی شده، هزینه یک حمله سازگارشونده منفرد را افزایش می‌دهد و اجازه می‌دهد جمعیت در شرایط محلی متفاوت تخصص پیدا کند.

از امنیت پایانه به امنیت عامل

امنیت پایانه کلاسیک یک host نسبتاً پایدار را فرض می‌کرد که می‌توانست با یک محصول دفاعی ثابت محافظت شود. وقتی applicationها موقتی، agent-generated و مبتنی بر رفتار می‌شوند، terminal دیگر واحد اصلی نیست. آنچه قبلاً terminal security نامیده می‌شد، به agent security تجزیه می‌شود. مسئله دیگر حفاظت از یک endpoint ثابت نیست، بلکه نحوه سازمان‌دهی، تجهیز و حاکمیت یک جمعیت محدود از عامل‌های دفاعی است که رفتار جمعی آن‌ها اثر حفاظتی را ایجاد می‌کند. در محیط‌های مصرف‌کننده گسترده، این دیدگاه به population-level monitoring به‌جای prevention برای هر instance منجر می‌شود، زیرا شیء تحت حفاظت ثابت نمی‌ماند. برای زیرساخت حیاتی، این دیدگاه به لشکرهای مهندسی‌شده‌ای نیاز دارد که ترکیب، افزونگی و رفتار به‌روزرسانی آن‌ها خود موضوع مطالعه باشد. پرسش اصلی این محور دیگر «آیا یک عامل می‌تواند X را تشخیص دهد؟» نیست، بلکه این است که «یک جمعیت محدود از عامل‌های دفاعی چگونه باید در برابر حمله AI-mediated سازگارشونده طراحی، سازمان‌دهی، ارزیابی و اداره شود؟»

۶.۴ محور انرژی: راهبرد، اخلاق و آزمایش‌های فکری

محور Energy پیامدهای سازمانی را در افق‌های بلندمدت دنبال می‌کند. Cybersecurity AI Scientist فقط یک موتور آزمایش سریع‌تر نیست؛ همان تغییری که پژوهش AI-native را امکان‌پذیر می‌کند، پرسش‌هایی را نیز ایجاد می‌کند که در یک آزمایش منفرد قابل حل نیستند: دستورکارهای پژوهشی چگونه باید با تغییر پلتفرم‌های مدل حفظ شوند؟ زمانی که کاربرد تهاجمی و دفاعی یک قابلیت در سطح کد به‌سختی قابل تفکیک است، containment مربوط به dual-use چگونه باید طراحی شود؟ و یک سیستم پژوهشی نیمه‌مستقل چگونه باید در برابر موضوعاتی که انتخاب می‌کند مطالعه کند پاسخگو باشد؟ این‌ها پرسش‌های راهبردی و اخلاقی به معنای دقیق کلمه هستند، نه جزئیات مهندسی.

سه پیامد عملی محور انرژی

چارچوب این مسائل را بخشی ذاتی از روش پژوهش می‌داند، نه لایه‌ای برای review پس از پایان کار. نخست، تداوم دستورکار خود یک موضوع طراحی است؛ سیستم پژوهشی باید بتواند پرسش‌ها، محدودیت‌ها و معیارهای پذیرش را هنگام تغییر زیرساخت حفظ کند تا نتیجه‌گیری‌ها هر بار با تغییر platform به‌صورت ناخواسته از صفر شروع نشوند. دوم، review اخلاقی و dual-use باید به‌صورت constraintهایی قابل بیان باشد که سیستم بتواند در زمان planning درباره آن‌ها استدلال کند، نه اینکه صرفاً audit پس از پایان کار باشد. سوم، بخشی از فضای پژوهش باید به thought experiment و counterfactual study اختصاص یابد؛ پرسش‌هایی درباره سوءاستفاده بلندمدت، مرز میان پژوهش و عملیات و جایگاه نهادی پژوهش نیمه‌مستقل که اجرای آن‌ها به‌صورت live experiment دشوار یا ناامن است. این مطالعات جایگزین کار تجربی نیستند، بلکه مکمل آن هستند و به این دلیل در چارچوب قرار دارند که تعیین می‌کنند کار تجربی چه پرسش‌هایی را مجاز به طرح کردن است.

۶.۵ از چهار دستورکار به یک شیء پژوهشی

چهار محور، چهار مطالعه موردی موازی نیستند. Risk دقیق‌ترین هدف تجربی سیستم را تعیین می‌کند: کشف نقص در برابر مهاجم سازگارشونده با قابلیت frontier. Trust سیستم را نسبت به اپراتورهای انسانی و تصمیم‌های پایین‌دستی کالیبره نگه می‌دارد. Incident آن را در واقعیت عملیاتی مستقر می‌کند؛ جایی که شیء تحت حفاظت از terminalها به جمعیت‌های محدود عامل‌ها تغییر می‌کند. Energy نیز سیستم را نسبت به پیامدهای سازمانی و اخلاقی بلندمدت که هیچ آزمایش منفردی نمی‌تواند حل کند، پاسخگو نگه می‌دارد. سیستمی که فقط یکی از این محورها را به‌خوبی دنبال کند اما بقیه را نادیده بگیرد، ممکن است یک cyber agent، assistant، پلتفرم دفاعی یا ابزار حاکمیتی قدرتمند باشد، اما هنوز Cybersecurity AI Scientist نیست. حرکت تعیین‌کننده، نگه‌داشتن هر چهار محور در یک سازمان‌دهی واحد پژوهشی است؛ با چهار صفر به‌عنوان ستون فقرات و معماری چندعاملی بخش پنجم به‌عنوان یکی از تحقق‌های قابل‌اجرا.

۷. چالش‌ها و مرزهای باز

چند چالش همچنان حل‌نشده باقی مانده‌اند. اهداف دفاعی ناهمگون هستند؛ چیزی که برای یک نوع سیستم سازمانی، دارایی زیرساخت حیاتی یا پلتفرم دیجیتال کار می‌کند ممکن است برای دیگری شکست بخورد و ادعاهای انتقال گسترده به برنامه‌های تجربی بسیار قوی‌تری نسبت به آنچه یک مقاله چارچوبی می‌تواند ارائه دهد نیاز دارند. مسئله dual-use ذاتی است، نه حاشیه‌ای: بسیاری از قابلیت‌های لازم برای پژوهش امنیتی باکیفیت قابلیت استفاده مجدد تهاجمی دارند. به همین دلیل containment، کنترل انتشار، auditability و طراحی مجوزها عناصر مرکزی هستند. زیرساخت آزمایشی نیز به‌طور غیرمعمولی دشوار است؛ پژوهش امنیت سایبری اغلب به digital twin، محیط‌های قابل replay، sandboxing و ثبت شواهد با integrity بالا نیاز دارد و محیط‌های ضعیف می‌توانند حتی با وجود benchmarkهای ظاهراً قوی، نتیجه‌گیری‌های گمراه‌کننده تولید کنند.

مسئله جایگاه نهادی

پرسش باز دیگری جایگاه نهادی Cybersecurity AI Scientist است. چنین سیستمی ممکن است در نهایت نه‌تنها اجرای پژوهش فنی، بلکه برنامه‌ریزی راهبردی، بررسی حاکمیت، آموزش و طراحی ایمنی مبتنی بر thought experiment را نیز پشتیبانی کند. اینکه این کارکردها باید در یک سیستم یکپارچه شوند یا در قالب زیرسامانه‌های interoperable جداگانه قرار گیرند، در مقاله حل نشده است. نویسندگان این موضوع را یک پرسش باز سازنده می‌دانند، نه نقص؛ زیرا بستن زودهنگام آن می‌تواند تحقق‌هایی را که هنوز امکان ارزیابی آن‌ها وجود ندارد، حذف کند.

نتیجه‌گیری

شرایط AI-native نه‌تنها عملیات سایبری، بلکه خود پژوهش امنیت سایبری را تغییر می‌دهند. سامانه‌های AI Scientist موجود، خودکارسازی end-to-end پژوهش را امکان‌پذیر می‌کنند. عامل‌های امنیت سایبری، مدل‌های frontier دارای قابلیت سایبری، مدل‌های foundation عمودی و سامانه‌های عملیاتی AI-security نشان می‌دهند که وظایف امنیتی اکنون همزمان فشارهای خاصی بر قابلیت، کنترل، benchmark و حاکمیت وارد می‌کنند. در نقطه تلاقی این حوزه‌ها، انتقال ساده یک روش از حوزه دیگر دیگر چارچوب کافی نیست. امنیت سایبری باید به‌عنوان یک شیء علمی مستقل برای پژوهش مبتنی بر AI در نظر گرفته شود؛ شیئی که توسط مهاجمان سازگارشونده، زیرساخت‌های non-stationary، اهداف دفاعی ناهمگون و validation مبتنی بر شواهد شکل می‌گیرد. نویسندگان بر همین اساس Cybersecurity AI Scientist را تعریف کرده، اهداف آن را در چهار صفر Risk، Trust، Incident و Energy قرار داده و این شیء را از هر تحقق سازمانی خاص جدا کرده‌اند. یک تحقق عملی، سامانه‌ای چندعاملی و ماژولار بر پایه بسته‌های قابلیت محدود، ابزارهای صریح، محیط‌های کنترل‌شده و کالیبراسیون مستمر است. چهار دستورکار نماینده، از کشف نقص‌های پنهان در قابلیت frontier و کمک‌رسانی کالیبره‌شده و model routing گرفته تا لشکرهای عامل مقاوم، تجزیه امنیت پایانه به امنیت عامل و آزمایش‌های فکری راهبردی و اخلاقی، نشان می‌دهند هیچ‌کدام به‌تنهایی کافی نیستند. مشارکت مقاله تعریف این دسته پژوهشی، مشخص کردن فشارهای طراحی و ارائه یک معماری اولیه است که سامانه‌ها، benchmarkها و برنامه‌های تجربی آینده می‌توانند بر مبنای آن ساخته شوند.

منبع