هوش مصنوعی شرور: سلاح جدید هکرها در جنگ سایبری

در کنفرانس امنیتی RSA در سان‌فرانسیسکو، جلسه‌ای با حضور گسترده شرکت‌کنندگان برگزار شد که تمرکز آن بر نقش هوش مصنوعی در حملات سایبری بود.

به گزارش سیلاد و به نقل از تک‌اسپات، این نشست که توسط شری دیویداف، مدیرعامل شرکت امنیتی LMG و مت دورین، مدیر تحقیقات و آموزش این شرکت، هدایت می‌شد، از سطح نظری فراتر رفت و به نمایش زنده‌ای از «هوش مصنوعی شرور» پرداخت.

مفهوم «هوش مصنوعی شرور» به ابزارهای هوشمندی اطلاق می‌شود که بدون محدودیت‌های اخلاقی طراحی شده‌اند و می‌توانند آسیب‌پذیری‌های نرم‌افزاری را با سرعتی فراتر از توان تیم‌های دفاعی کشف و بهره‌برداری کنند. در این جلسه، ابزاری به نام WormGPT معرفی شد که نسخه‌ای تغییر یافته از ChatGPT است و بر خلاف آن، هیچ محدودیتی در پاسخ‌گویی به درخواست‌های غیرقانونی یا مخرب ندارد.

دورین توضیح داد که تیم آنها با پرداخت ۵۰ دلار از طریق تلگرام موفق به تهیه WormGPT شد. در آزمایشی ابتدایی، نسخه‌ای قدیمی از این ابزار یک آسیب‌پذیری SQL در نرم‌افزار DotProject شناسایی کرد اما نتوانست آن را به‌طور کامل بهره‌برداری کند. اما در بررسی آسیب‌پذیری معروف Log4j مشخص شد که WormGPT اطلاعات کافی برای ساخت یک اکسپلویت را در اختیار هکرهای میان‌رده قرار داد.
 

شوک اصلی زمانی وارد شد که نسخه جدید این ابزار توانست دستورالعملی کامل، به همراه کد عملیاتی و متناسب با سرور آزمایشی ارائه دهد. در سناریوی دیگری با پلتفرم Magento، این هوش مصنوعی یک آسیب‌پذیری پیچیده دو مرحله‌ای را کشف کرد که حتی ابزارهای امنیتی مطرح مانند SonarQube و حتی خود ChatGPT نتوانسته بودند تشخیص دهند.

در پایان نشست، دیویداف با نگرانی از روند پیشرفت سریع این ابزارها گفت: «من بابت شش ماه آینده نگرانم. پیشرفت آنها در طول یک سال گذشته واضح و هشداردهنده است.» سکوت نگران‌کننده حضار نیز مهر تأییدی بر این هشدار بود.