تولید و انتشار اطلاعات نادرست
شرکت اوپن ایآی در آخرین روزهای ماه مه امسال نخستین گزارش خود درباره نحوه استفاده از ابزارهای هوش مصنوعی این شرکت برای عملیات نفوذ مخفی را منتشر و در آن اعلام کرد که این شرکت کمپینها و اقداماتی برای انتشار اطلاعات نادرست از سوی روسیه، چین، اسرائیل و ایران را مختل کرده است.
به این ترتیب گزارش ۳۹ صفحهای شرکت اوپن ایآی که در اواخر ماه مه منتشر شد، یکی از دقیقترین گزارشهای یک شرکت هوش مصنوعی در زمینه استفاده از نرمافزار آن با اهداف تبلیغاتی است.
به گزارش گاردین، در بخش دیگری از گزارش تحلیلی شرکت اوپن ایآی درباره نحوه استفاده از ابزارهای هوش مصنوعی این شرکت به منظور عملیات نفوذ مخفی، به اقدامات ایران هم پرداخته شده است. در این بخش ادعا شده است که ایران از ابزارهای هوش مصنوعی اوپن ایآی برای تهیه مقالاتی با هدف ضدیت با آمریکا و اسرائیل استفاده و آنها را به زبانهای انگلیسی و فرانسوی ترجمه کرده بود.
این گزارش همچنین نشان میدهد که چگونه هوش مصنوعی مولد در اقدامات و کمپینهای تولید و انتشار اطلاعات نادرست به عنوان ابزاری برای ارتقای جنبههای خاصی از تولید محتوا، مانند ایجاد پستهای متقاعدکنندهتر به زبان خارجی، مورد استفاده قرار میگیرد و البته نه تنها به عنوان یک ابزار تبلیغاتی. در این گزارش آمده است: «همه این عملیاتها تا حدی از هوش مصنوعی استفاده میکردند، اما هیچ کدام آنها صرفا به هوش مصنوعی وابسته نبودند.» در واقع مطالب تولید شده توسط هوش مصنوعی تنها یکی از انواع محتوایی بودند که توسط عواملی در این کشورها پست میشدند و در کنار قالبهای سنتیتر، مانند متون دستنویس یا میمهای کپی شده از سراسر اینترنت هم مورد استفاده قرار گرفتند. هر چند این کمپینها تاثیرگذاری قابل توجهی نداشتند، اما نشان دادند که چگونه استفاده مخرب از هوش مصنوعی مولد امکان افزایش تولید تبلیغات را به آنها میدهد. نوشتن، ترجمه و ارسال محتوا حالا میتواند به سادگی و با استفاده از ابزارهای هوش مصنوعی به شکلی کارآمدتر انجام شود.
تصمیمی همراستا با سیاستهای کاخ سفید
در یک سال گذشته سوءاستفاده از هوش مصنوعی مولد در کشورهای سراسر جهان برای تاثیرگذاری بر سیاست و افکار عمومی بارها و بارها انجام شده است. از جعل عمیق و تولید صوت و تصاویر تولید شده توسط هوش مصنوعی و کمپینهای متنی برای ایجاد اختلال در کمپینهای انتخاباتی استفاده شد که منجر به افزایش فشار بر شرکتهایی مانند اوپن ایآی در راستای محدود کردن استفاده از ابزارهایشان شده است.
با این همه شرکت اوپن ایآی اعلام کرده است که قصد دارد بهطور دورهای گزارشهای مشابهی را در مورد عملیات نفوذ مخفی با استفاده از ابزارهای هوش مصنوعی این شرکت منتشر کند و همچنین حسابهای کاربری را که مقررات و خطمشی این شرکت را نقض میکنند، حذف کند.
این شرکت در گذشته دسترسی کاربران این کشورها به چت جیپیتی و API خود را ممنوع کرده بود، اما به دنبال انتشار این گزارش تحلیلی درباره استفاده از ابزارهای هوش مصنوعی اوپن ایآی برای عملیات نفوذ مخفی و از دو هفته گذشته با ارسال ایمیلهایی اعلام کرده است که اجرای این محدودیتها، گسترده خواهد شد.
این در حالی است که بر اساس بعضی گزارشها، کاربران چینی توانستهاند با استفاده از پلتفرم رایانش ابری مایکروسافت آژور، همچنان از ابزارهای شرکت اوپن ایآی استفاده کنند. از آنجا که مایکروسافت و اوپن ایآی همکاری نزدیکی با یکدیگر دارند، مایکروسافت دسترسی خوبی به ابزارها و محصولات این شرکت دارد.
بعد از انتشار اخبار مربوط به اعمال محدودیتهای گستردهتر از سوی اوپن ایآی برای کاربران کشورهای روسیه، ایران و چین، مایکروسافت تایید کرد که همچنان به ارائه خدمات ابری آژور به کاربران هنگکنگ ادامه خواهد داد. حالا باید دید که ادامه جنگ ژئوپلیتیک در زمین هوش مصنوعی به کجا ختم میشود.
23302
