مدل هوش مصنوعی چین به‌دلیل توانایی هکری قدرتمند، فعلاً عمومی نمی‌شود

مقایسه دو مدل GLM-5.3 و Mythos 5

GLM-5.3 در آزمون CyberGym که توانایی مدل‌های هوش مصنوعی در بررسی کد، شناسایی آسیب‌پذیری‌های امنیتی و تأیید واقعی بودن آنها را ارزیابی می‌کند، امتیاز ۸۴.۵ درصد به دست آورده است.
این امتیاز اندکی بالاتر از امتیاز ۸۳.۸ درصدی Mythos 5، مدل امنیت سایبری Anthropic، بوده است. با این حال، نتایج اعلام‌شده از سوی Z.ai هنوز به‌طور مستقل تأیید نشده‌اند.

GLM-5.3 در زمینه تبدیل آسیب‌پذیری‌های شناسایی‌شده به حملات عملی همچنان فاصله محسوسی با Mythos 5 دارد.
این مدل در آزمون ExploitBench امتیاز ۵۴.۴ درصد را به دست آورده، در حالی که امتیاز گزارش‌شده برای Mythos 5 برابر با ۷۸ درصد بوده است.

در آزمون‌های زمان‌محور نیز GLM-5.3 توانسته در دو ساعت ۱۰۵ و در شش ساعت ۱۳۰ وظیفه توسعه حمله را تکمیل کند؛ اعدادی که پایین‌تر از عملکرد Mythos 5 در همین آزمون‌هاست.

با وجود این محدودیت‌ها، توانایی مدل در کشف ضعف‌های امنیتی آن‌قدر قابل‌توجه بوده که به گزارش سایت AXIOS، شرکت Z.ai تصمیم گرفته عرضه عمومی وزن‌های GLM-5.3 را حدود دو هفته به تعویق بیندازد.
این شرکت می‌خواهد در این فاصله، ارزیابی‌های امنیتی بیشتری انجام دهد و سازوکارهای حفاظتی مدل را تقویت کند.

این تصمیم اهمیت ویژه‌ای دارد، زیرا انتشار وزن‌های یک مدل متن‌باز یا دارای وزن‌های باز، امکان اجرای مدل روی زیرساخت‌های مختلف و تغییر یا سفارشی‌سازی آن را فراهم می‌کند؛ در نتیجه، پس از انتشار وزن‌ها، کنترل سازنده بر نحوه استفاده از مدل بسیار محدودتر خواهد شد.
Z.ai نیز اذعان کرده است که پس از عمومی شدن وزن‌ها، دیگر نمی‌تواند به‌طور کامل نحوه تغییر یا استفاده از GLM-5.3 را کنترل کند.

Z.ai تلاش دارد قابلیت‌های سایبری این مدل را بیشتر در چارچوب دفاع سایبری معرفی کند. این شرکت اعلام کرده مدل‌های خانواده GLM تاکنون بیش از ۲۴۰۰ آسیب‌پذیری امنیتی را شناسایی کرده‌اند که بیش از هزار مورد از آنها در دسته آسیب‌پذیری‌های بحرانی یا با شدت بالا قرار می‌گیرند.

اهمیت GLM-5.3 فقط به امنیت سایبری محدود نمی‌شود. این مدل در اصل یک مدل عمومی برای کدنویسی است و طبق توضیحات Z.ai، قابلیت‌های امنیتی آن نه از طریق ساخت یک سامانه تخصصی هک، بلکه با آموزش تکمیلی گسترده‌تر و یادگیری تقویتی به دست آمده است. همین موضوع نشان می‌دهد که توانایی‌های سایبری می‌توانند به‌عنوان یک قابلیت جانبی در مدل‌های عمومی قدرتمند نیز ظاهر شوند.

این تحول در شرایطی رخ می‌دهد که مدل‌های متن‌باز و دارای وزن‌های باز چینی در ماه‌های اخیر توجه بیشتری در میان توسعه‌دهندگان خارج از چین به دست آورده‌اند.
مدل قبلی GLM-5.2 نیز به دلیل قابلیت‌های کدنویسی و اجرای وظایف عامل‌محور مورد توجه قرار گرفته بود و حتی شرکت Hugging Face اعلام کرده بود از آن برای مقابله با یک حمله سایبری استفاده کرده است.

از سوی دیگر، پیشرفت مدل‌های متن‌باز در حوزه‌های حساس، بحث نظارت دولتی بر این فناوری‌ها را نیز جدی‌تر کرده است. در آمریکا، افزایش توانایی مدل‌های متن‌باز و نزدیک شدن آنها به مدل‌های بسته و تجاری، توجه دولت را به مسئله نحوه ارزیابی، استفاده و نظارت بر این مدل‌ها جلب کرده است.

در واقع، GLM-5.3 نمونه‌ای از یک چالش جدید در صنعت هوش مصنوعی است: هرچه مدل‌های دارای وزن باز قدرتمندتر شوند، مزیت دسترسی آزاد به فناوری با ریسک استفاده مخرب از همان قابلیت‌ها همراه‌تر می‌شود. این مسئله به‌ویژه درباره مدل‌هایی اهمیت دارد که می‌توانند آسیب‌پذیری‌های نرم‌افزاری را در مقیاس بالا شناسایی یا برای توسعه حملات سایبری مورد استفاده قرار گیرند.

در مجموع، عملکرد GLM-5.3 نشان می‌دهد فاصله میان برخی مدل‌های پیشرفته چینی و آمریکایی در حوزه‌های تخصصی هوش مصنوعی، از جمله امنیت سایبری، در حال کاهش است. با این حال، برتری این مدل در شناسایی آسیب‌پذیری‌ها به معنای برتری کلی آن در توانایی‌های سایبری نیست و نتایج اعلام‌شده نیز هنوز نیازمند ارزیابی مستقل هستند.