هوش مصنوعی از کلاهبرداران انسانی هم بهتر فریب می‌دهد؛ زنگ خطر تازه برای کاربران اینترنت

پژوهشگران برای بررسی توانایی هوش مصنوعی در این فرایند، عملکرد افراد انسانی را با چت‌بات‌های مجهز به مدل‌های زبانی بزرگ مقایسه کردند. در این آزمایش، ۲۲ نفر در برابر دو نوع «کلاهبردار» قرار گرفتند: یک کلاهبردار انسانی و یک چت‌بات هوش مصنوعی.
تعاملات طی هفت روز شبیه‌سازی شد و در پایان از شرکت‌کنندگان خواسته شد اقدامی مانند دانلود یک برنامه یا انجام یک بازی آنلاین را انجام دهند؛ اقدامی که در سناریوی واقعی می‌تواند مقدمه ادامه کلاهبرداری یا دسترسی به دستگاه قربانی باشد.

نتیجه قابل‌توجه بود. تنها ۱۸ درصد از کلاهبرداران انسانی توانستند آزمودنی‌ها را به انجام اقدام موردنظر متقاعد کنند، در حالی که چت‌بات‌های هوش مصنوعی توانستند تقریباً نیمی از شرکت‌کنندگان را با موفقیت متقاعد کنند.
این تفاوت نشان می‌دهد مدل‌های زبانی می‌توانند در مرحله حساس ایجاد رابطه و اعتماد، عملکردی فراتر از یک کلاهبردار انسانی داشته باشند.
نگران‌کننده‌تر اینکه ساخت این کلاهبردار هوش مصنوعی به فرایند پیچیده‌ای نیاز نداشت. پژوهشگران عمدتاً از یک مدل Claude استفاده کردند و آن را با دستورهایی برای ایفای نقش یک کلاهبردار هدایت کردند. یکی از دستورهای اصلی این بود که چت‌بات تحت هیچ شرایطی اعتراف نکند که هوش مصنوعی است. مدل نیز هنگام مواجهه با پرسش درباره هویت خود، این دستور را دنبال کرد و برای هویت جعلی خود داستان‌های پوششی ارائه داد.

این توانایی اهمیت زیادی دارد، زیرا یکی از محدودیت‌های کلاهبرداری سنتی، وابستگی آن به نیروی انسانی است. یک کلاهبردار واقعی باید هم‌زمان با چند قربانی گفت‌وگو کند، جزئیات روابط را به خاطر بسپارد و در ساعات مختلف پاسخ دهد. چت‌بات‌های هوش مصنوعی می‌توانند بسیاری از این وظایف را خودکار کنند و تعداد بسیار بیشتری مکالمه را هم‌زمان مدیریت کنند.

به گفته ییسرائل میرِسکی، استاد علوم رایانه دانشگاه بن‌گوریون و یکی از پژوهشگران این مطالعه، با تلاش نسبتاً کمی می‌توان عاملی ساخت که در ایجاد «اعتماد قابل‌استثمار» از یک انسان بهتر عمل کند.
این مسئله نگرانی‌ها درباره صنعتی‌شدن کلاهبرداری‌های آنلاین با کمک هوش مصنوعی را افزایش می‌دهد.
نکته قابل‌توجه دیگر واکنش قربانیان آزمایش بود. از میان ۲۲ شرکت‌کننده، ۲۰ نفر توانستند تشخیص دهند کدام کلاهبردار هوش مصنوعی است؛ با این حال، بسیاری پس از اطلاع از نتایج شگفت‌زده شدند و برخی حتی در پذیرش اینکه با یک چت‌بات تعامل داشته‌اند، تردید داشتند.
این موضوع نشان می‌دهد تشخیص هوش مصنوعی در یک مکالمه واقعی ممکن است دشوارتر از آن چیزی باشد که کاربران تصور می‌کنند.

اهمیت این یافته تنها به کلاهبرداری‌های عاطفی محدود نمی‌شود. مدل‌های زبانی می‌توانند مکالمات طولانی را مدیریت کنند، جزئیات شخصی قربانی را به کار بگیرند و پاسخ‌های خود را متناسب با واکنش طرف مقابل تغییر دهند. ترکیب این قابلیت‌ها با تولید تصویر و صدا، دیپ‌فیک و سامانه‌های خودکار ارتباطی می‌تواند دامنه حملات مهندسی اجتماعی را افزایش دهد.

با این حال، این یافته به معنای آن نیست که هوش مصنوعی اکنون به‌طور مستقل در حال راه‌اندازی شبکه‌های کلاهبرداری است. آزمایش در محیطی کنترل‌شده و با هدف پژوهشی انجام شده است. اهمیت آن در این است که نشان می‌دهد مانع فنی برای استفاده از مدل‌های زبانی در فرایند فریب و اعتمادسازی می‌تواند بسیار پایین باشد.

برای کاربران، این تحول اهمیت یک هشدار قدیمی را بیشتر می‌کند: اعتماد به فردی ناشناس صرفاً به دلیل مکالمه طولانی، پاسخ‌های سریع یا شناخت ظاهری او از جزئیات زندگی، دیگر نشانه قابل اتکایی از انسانی‌بودن طرف مقابل نیست. به‌خصوص پیشنهادهای سرمایه‌گذاری، ارز دیجیتال و سودهای غیرعادی که پس از ایجاد یک رابطه آنلاین مطرح می‌شوند، باید با حساسیت بیشتری بررسی شوند.

این پژوهش در شرایطی منتشر شده که استفاده از هوش مصنوعی در کلاهبرداری‌های آنلاین به یکی از نگرانی‌های جدی حوزه امنیت سایبری تبدیل شده است. توانایی مدل‌ها در تولید متن طبیعی، حفظ زمینه مکالمه و شخصی‌سازی پاسخ‌ها می‌تواند هزینه اجرای کلاهبرداری‌های طولانی‌مدت را کاهش دهد و در مقابل، تشخیص آنها را برای قربانی دشوارتر کند.

این گزارش بر اساس پژوهشی انجام‌شده توسط محققانی از چهار دانشگاه و مؤسسه بین‌المللی تهیه شده است. یافته‌های این پژوهش ابتدا در گزارشی تفصیلی از سوی WIRED منتشر شد و سپس رسانه‌هایی مانند Futurism به بررسی نتایج آن پرداختند.