از اتوماسیون تا امنیت: چگونه عامل‌های هوش مصنوعی را مدیریت کنیم؟

ائتلافی از دولت‌های غربی به رهبری آژانس امنیت سایبری و زیرساخت‌های ایالات متحده (CISA)، آژانس امنیت ملی (NSA) و همکارانشان از استرالیا، کانادا، نیوزیلند و بریتانیا، در ۳۰ آوریل ۲۰۲۶، راهنمای جدیدی را منتشر کردند. این راهنما سازمان‌ها را به اتخاذ رویکردی محتاطانه هنگام استقرار عامل‌های هوش مصنوعی خودکار دعوت می‌کند.

به گزارش سیلاد به نقل از CioDive، این راهنما هشدار می‌دهد که اگرچه هوش مصنوعی عامل‌گرا قابلیت‌های اتوماسیون قدرتمندی دارد، اما توانایی آن برای عمل مستقل، ریسک‌های امنیتی منحصر‌به‌فرد و غیرقابل پیش‌بینی را به همراه می‌آورد؛ از جمله سوءاستفاده از دسترسی‌ها، جعل هویت و شکست‌های زنجیره‌ای در سیستم‌ها.

تأکید اصلی این است که سازمان‌ها هرگز نباید به عامل‌های هوش مصنوعی دسترسی گسترده یا نامحدود بدهند، به‌ویژه برای داده‌های حساس یا سیستم‌های حیاتی، و پیشنهاد می‌شود که آن‌ها را ابتدا فقط برای وظایف کم‌ریسک و غیرحساس به کار بگیرند.
 

از جمله توصیه‌های کلیدی می‌توان به اجرای مدیریت هویت سخت‌گیرانه و کنترل‌های دسترسی با کمترین امتیاز لازم، حفظ نظارت انسانی برای اقدامات پرهزینه، و انجام پایش مداوم و ارزیابی‌های امنیتی منظم (مانند تمرین‌های تست نفوذ یا Red Teaming) اشاره کرد. این سند تأکید می‌کند که سیستم‌های هوش مصنوعی عامل‌گرا باید در چارچوب‌های امنیتی سایبری موجود ادغام شوند، نه اینکه به عنوان یک رشته جداگانه در نظر گرفته شوند.

این راهنما به بلوغ یافتن استانداردهای امنیتی اشاره می‌کند و می‌پذیرد که این سیستم‌ها ممکن است رفتارهای غیرمنتظره‌ای از خود نشان دهند. بنابراین، سازمان‌ها توصیه می‌شوند تا زمانی که محافظت‌های قوی‌تری توسعه می‌یابد، به جای تمرکز صرف بر افزایش بهره‌وری، بر تاب‌آوری، قابلیت بازگشت و محدود کردن ریسک‌ها اولویت دهند.