موج «دیپ‌فیک» و ربات‎‌ها کسب‌وکارها را در فصل خرید تعطیلات هدف قرار داده است

تماس‌های ساختگی با صدای مصنوعی

مطابق خبر منتشره در اکسیوس، یکی از خرده‌فروشان بزرگ گزارش داده که روزانه بیش از هزار تماس با صدای مصنوعی دریافت می‌کند. در نمونه‌ای از این تماس‌ها، ربات با لحنی اندکی رباتیک تماس را با عبارت «بسته‌ام گم شده است، لطفاً مرجوعش کنید» آغاز می‌کند. اگرچه صدای ربات غیرطبیعی و پاسخ‌دهی‌اش به پرسش‌های پشتیبانی ناصحیح است، اما با ارائه شماره سفارش واقعی و اطلاعات تماس جزئی موفق می‌شود کارشناس پشتیبانی را متقاعد کند و درخواست بازپرداخت تایید شود.
 

تهدیدی فراتر از شرکت‌ها

این تهدید تنها به شرکت‌ها محدود نمی‌شود؛ مصرف‌کنندگان نیز هدف تبلیغات و پیشنهادات جعلی قرار گرفته‌اند. ویدیوها، تبلیغات و پست‌هایی که با استفاده از هوش مصنوعی و تکنیک‌های دیپ‌فیک ساخته شده‌اند و با صدای یا تصویر افراد مشهور همراه‌اند، وعده «تخفیف ویژه» یا «پیشنهاد انحصاری» می‌دهند و کاربران را به دام سایت‌های جعلی هدایت می‌کنند.
 

پیشرفت کیفیت تقلید و دشواری تشخیص

متخصصان امنیت سایبری هشدار داده‌اند که کیفیت تقلید صدا و تصویر با ابزارهای هوش مصنوعی به حدی رسیده که تشخیص آنها با روش‌های سنتی و متداول، دشوار شده است. با افزایش دقت و واقع‌نمایی در تولیدات صوتی و تصویری مصنوعی، احتمال فریب دادن نیروی انسانی و مشتریان نیز افزایش یافته است.
 

دلایل اهمیت موضوع

   – حملات تقلبی مبتنی بر ربات‌ها و دیپ‌فیک به‌صورت خودکار و مداوم اجرا می‌شوند و در برخی فروشگاه‌ها به بیش از هزار تماس تقلبی در روز رسیده‌اند.
   – این تماس‌ها اغلب با داده‌های واقعی همراه‌اند که تشخیص تقلب را برای کارکنان پشتیبانی سخت می‌کند.
   – تبلیغات جعلی با ظاهر و کیفیت بالا مصرف‌کنندگان عادی را نیز هدف قرار می‌دهد و می‌تواند به سرقت اطلاعات یا پول منجر شود.
   – با نزدیک شدن به فصل تعطیلات و افزایش تراکنش‌ها، فرصت سوءاستفاده برای کلاهبرداران بیشتر می‌شود و نیاز به هوشیاری بالاتر ضروری است.
 

توصیه‌هایی برای کاربران و کسب‌وکارها

   – همیشه پیشنهادها و تخفیف‌هایی را که در شبکه‌های اجتماعی می‌بینید از طریق وب‌سایت رسمی فروشگاه بررسی کنید و از صحت آنها اطمینان حاصل کنید.
   – اگر تماس یا ایمیلی درخواست استرداد یا اطلاعات حساس داشت، حتی در صورت مطابقت جزئی داده‌ها، بدون بررسی اضافی اقدام نکنید.
   – کسب‌وکارها باید سیستم‌های تشخیص تقلب را تقویت کرده و پروتکل‌های پشتیبانی مشتری را بازنگری کنند تا در مقابل تماس‌ها و درخواست‌های خودکار محافظت شوند.
   – به کاربران آموزش دهید که نسبت به پیشنهادهای عجیب یا فشارهای زمانی حساس باشند و در صورت تردید، از کانال‌های رسمی فروشگاه استعلام کنند.
با افزایش کیفیت ابزارهای تولید صوت و تصویر مصنوعی و رشد حملات هدفمند در فصل خرید، تقویت زیرساخت‌های مقابله با تقلب و آگاهی‌بخشی به مشتریان از ضروریات حفاظتی در برابر تهدیدات مبتنی بر هوش مصنوعی است.