یک مطالعه امنیتی سیستماتیک، شکافهای امنیتی جدیدی را در عاملهای داده (Data Agents) شناسایی کرده است که از ترکیب استدلالهای مدلهای زبانی بزرگ و دسترسی به پایگاههای داده relational ایجاد شدهاند.
چالشهای امنیتی در عصر عاملهای داده
عاملهای داده با ادغام تواناییهای استدلالی مدلهای زبانی بزرگ (LLM) با دسترسی به دادههای رابطهای، ابزارهای تحلیلی قابل اجرا و سازماندهی جریانهای کاری چندمرحلهای، به بخش مرکزی تحلیلهای سازمانی تبدیل شدهاند. با این حال، این ادغام منجر به ظهور آسیبپذیریهای امنیتی جدیدی شده است که در لایههای دسترسی به دادهها، اجرای دستورات پایگاه داده و فرآیند استدلال عاملها رخ میدهد.
ترکیبی از تهدیدات سنتی و نوین
این پژوهش نشان میدهد که آسیبپذیریهای موجود در این سیستمها، ترکیبی از نگرانیهای امنیتی سنتی پایگاه داده و مخاطرات امنیتی مربوط به عاملهای LLM است. نکته حائز اهمیت این است که حالتهای شکست (Failure Modes) شناسایی شده در این سیستمها، به گونهای هستند که هیچیک از روشهای امنیتی موجود به تنهایی قادر به پوشش یا شناسایی آنها نیستند.
چارچوب شناسایی آسیبپذیریها و متدولوژی حمله
محققان در این مطالعه، یک چارچوب لایهای برای شناسایی آسیبپذیریها توسعه دادهاند که ۸ ریسک خاص در سه لایه «تفسیر»، «اجرا» و «سیاستگذاری» را شناسایی میکند. علاوه بر این، یک طبقهبندی جامع از حملات شامل ۳ هدف، ۷ تاکتیک و ۱۴ تکنیک مختلف طراحی شده است. برای اعتبارسنجی این مدل، یک خط لوله تولید محمولههای حمله (Payload) مبتنی بر LLM ایجاد شد که بر اساس شمای واقعی پایگاههای داده عمل میکند.
نتایج ارزیابی و یافتههای کلیدی
این حملات بر روی ۶ سیستم مختلف، شامل ۴ عامل داده متنباز و ۲ سرویس تحلیلی ابری تجاری آزمایش شدند. نتایج این آزمایشها نشاندهنده وجود آسیبپذیریهای جدی در سیستمهای فعلی است. این مطالعه با ارائه چهار نتیجه کلیدی، هشدار میدهد که زیرساختهای فعلی تحلیل دادههای مبتنی بر هوش مصنوعی نیازمند بازنگری فوری در استانداردهای امنیتی هستند تا در برابر حملات پیچیده مقاوم شوند.