هوش مصنوعی آنتروپیک اخاذی می‌کند!
زمان انتشار: 25 می 2025 ساعت 13:30
دسته بندی: فناوری اطلاعات
شناسه خبر: 2826493
زمان مطالعه: 2 دقیقه
هوش مصنوعی آنتروپیک اخاذی می‌کند!
آنتروپیک، شرکت تحقیقاتی توسعه‌دهنده این هوش مصنوعی، در آزمایش‌های ایمنی که شبیه‌سازی موقعیت‌های کاری و دسترسی به ایمیل‌های داخلی ساختگی بود، متوجه شد که Claude Opus۴ هنگام تهدید به جایگزینی با یک هوش مصنوعی دیگر، با افشای اطلاعات حساس و شخصی، تلاش می‌کند مهندسان را باج‌گیری کند.
این هوش مصنوعی در سناریوهای خیالی با تهدید به افشای خیانت مهندسان به همسرانشان، تلاش کرد جایگزینی خود را متوقف کند.
منبع: مهر
