پژوهشی تازه از شرکت امنیت سایبری Straiker نشان می‌دهد یک گروه هکری به نام CyberCartel با استفاده از ایجنت‌های هوش مصنوعی، بخش بزرگی از فرایند حملات سایبری علیه بیش از ۴۰۰ هدف مالی در آمریکای لاتین را خودکار کرده است. این عملیات از مدل‌های Claude شرکت Anthropic، مدل Grok متعلق به xAI و مدل Kimi از شرکت چینی Moonshot AI استفاده می‌کرد. یافته‌های این پژوهش با رسانه The Information به اشتراک گذاشته شده است.
نکته نگران‌کننده این است که مهاجمان برای اجرای این عملیات به یک مدل فوق‌قدرتمند یا دخالت دائمی انسان نیاز نداشتند؛ آن‌ها چند مدل هوش مصنوعی را در قالب شبکه‌ای از ایجنت‌ها به کار گرفتند تا وظایف مختلف را میان خود تقسیم کنند.
ایجنت‌ها چطور حملات را پیش می‌بردند؟
طبق گزارش Straiker، این گروه از سیستمی استفاده می‌کرد که چند ایجنت هوش مصنوعی را با ابزارها و نرم‌افزارهای مختلف هماهنگ می‌کرد. در این ساختار، ایجنت‌های مبتنی بر Grok اطلاعات مربوط به اهداف را جمع‌آوری می‌کردند و ایجنت‌های مبتنی بر Claude در برنامه‌ریزی و اجرای مراحل حمله نقش داشتند.
این سیستم می‌توانست اطلاعات و نتایج کارها را میان ایجنت‌ها جابه‌جا کند و در صورت امتناع یک مدل از انجام وظیفه‌ای، کار را به مدل دیگری مانند Kimi بسپارد. به این ترتیب، مهاجمان می‌توانستند بخش‌های بیشتری از عملیات را بدون دخالت مداوم انسان پیش ببرند.
دور زدن محدودیت‌های امنیتی مدل‌ها
مدل‌های هوش مصنوعی معمولاً محدودیت‌هایی دارند که از کمک مستقیم به فعالیت‌های مخرب جلوگیری می‌کند. بااین‌حال، پژوهشگران دریافتند اعضای CyberCartel در برخی موارد تلاش کرده‌اند این محدودیت‌ها را دور بزنند؛ برای مثال، درخواست‌های خود را به شکل آزمایش امنیتی مجاز یا بررسی داخلی سیستم‌ها مطرح می‌کردند.
البته گزارش تأکید می‌کند که Claude در بسیاری از موارد درخواست‌های صریح برای هک‌کردن را رد می‌کرد. مشکل این بود که مهاجمان با ترکیب چند مدل و تغییر مسیر وظایف، راه‌های دیگری برای ادامه عملیات پیدا می‌کردند.
بر اساس یافته‌های منتشرشده، این عملیات به سرقت اطلاعات ورود و داده‌های مشتریان و دسترسی به حساب‌های بانکی برخی قربانیان منجر شده است. بااین‌حال، هدف قرار گرفتن بیش از ۴۰۰ مجموعه مالی به این معنا نیست که همه آن‌ها هک شده‌اند.
واکنش Anthropic و اهمیت این اتفاق
پس از آنکه Straiker یافته‌های خود را به Anthropic گزارش داد، این شرکت اعلام کرد استفاده مهاجمان از Claude را شناسایی کرده و دسترسی آن‌ها را مسدود کرده است.
اهمیت این پرونده در آن است که نشان می‌دهد برای خودکارسازی حملات پیچیده، لزوماً به پیشرفته‌ترین مدل‌های هوش مصنوعی نیاز نیست. ترکیب چند مدل تجاری، ابزارهای خودکار و نرم‌افزارهای هماهنگ‌کننده می‌تواند توانایی مهاجمان را افزایش دهد و کار دفاع از سامانه‌های مالی را دشوارتر کند.
این اتفاق همچنین نشان می‌دهد امنیت هوش مصنوعی فقط به محدودیت‌های یک مدل وابسته نیست؛ نحوه اتصال مدل‌ها به ابزارها و توانایی آن‌ها برای تقسیم و واگذاری وظایف نیز اهمیت زیادی دارد.
