اپل و گوگل برای حذف اپلیکیشن‌های «برهنه‌ساز» مبتنی بر هوش مصنوعی تحت فشار قرار گرفتند

به گفته این مقام قضایی، اپل و گوگل مدت‌هاست از وجود این برنامه‌ها و کاربرد آنها در تولید تصاویر غیراخلاقی و آزاردهنده آگاه هستند، اما همچنان با میزبانی و دریافت کارمزد از توسعه‌دهندگان این اپلیکیشن‌ها، از فعالیت آنها سود می‌برند.
به گزارش سیلاد، در این اخطارها از دو شرکت خواسته شده است علاوه بر حذف برنامه‌ها، همکاری تجاری خود با توسعه‌دهندگان آنها را نیز متوقف کنند.

بر اساس گزارش‌ها، اخطارهای ارسالی دست‌کم ۱۳ اپلیکیشن را هدف قرار داده‌اند که با عناوینی مانند تعویض چهره یا ویرایش تصویر عرضه می‌شوند، اما در عمل برای تولید تصاویر برهنه جعلی از افراد، از جمله زنان و کودکان، مورد استفاده قرار می‌گیرند.
این برنامه‌ها میلیون‌ها بار دانلود شده‌اند و درآمد قابل‌توجهی از خریدهای درون‌برنامه‌ای کسب کرده‌اند.
 

افزایش نگرانی‌ها درباره سوءاستفاده از دیپ‌فیک

فشار بر اپل و گوگل در شرایطی افزایش یافته که استفاده از هوش مصنوعی برای تولید تصاویر و ویدئوهای جعلی به یکی از مهم‌ترین چالش‌های حوزه امنیت دیجیتال و حریم خصوصی تبدیل شده است.
فعالان حقوق دیجیتال هشدار می‌دهند این ابزارها به‌طور گسترده برای آزار، اخاذی، تخریب اعتبار افراد و تولید محتوای سوءاستفاده‌گرانه به کار گرفته می‌شوند و قربانیان آنها در بسیاری از موارد زنان و نوجوانان هستند.

هرچند هر دو شرکت اپل و گوگل در سیاست‌های فروشگاه‌های نرم‌افزاری خود انتشار محتوای غیراخلاقی و سوءاستفاده‌گرانه را ممنوع کرده‌اند، منتقدان معتقدند اجرای این سیاست‌ها کافی نبوده است.
گوگل اعلام کرده طی ماه‌های اخیر صدها اپلیکیشن مشابه را حذف و برخی کلیدواژه‌های مرتبط را نیز محدود کرده است، اما مقام‌های سان‌فرانسیسکو این اقدامات را ناکافی می‌دانند.
اپل نیز تا زمان انتشار گزارش، واکنش رسمی به این اخطارها نشان نداده است.

مطابق اعلام تک‌کرانچ، بر اساس قوانین ایالت کالیفرنیا، اگر شرکت‌ها پس از دریافت اخطار رسمی برای جلوگیری از انتشار تصاویر جنسی جعلی بدون رضایت افراد اقدام نکنند، ممکن است با پیگرد حقوقی و جریمه‌های مدنی مواجه شوند.
کارشناسان معتقدند این پرونده می‌تواند به یکی از مهم‌ترین آزمون‌های حقوقی درباره مسئولیت فروشگاه‌های اپلیکیشن در قبال محتوای تولیدشده با هوش مصنوعی تبدیل شود.