به گزارش سیلاد، OpenAI، پیشروترین شرکت هوش مصنوعی و خالق ChatGPT پیشنویس اسناد جهتدهی و کنترل رفتار ChatGPT و دیگر فناوریهای هوش مصنوعی خود را منتشر کرد. بخشی از این سند طولانی نشان میدهد که این شرکت در حال بررسی ورود گسترده به سمت پورن و دیگر محتوای هرزهنگاری است.
به گفته وایرد، قوانین کنونی OpenAI در حال حاضر، استفاده از هوش مصنوعی را برای تولید مطالب صریح هرزهنگاری یا حتی پیشنهادی ممنوع کرده است، اما یادداشتهای «تفسیری» در حاشیهنویسی قانون جدید میگوید که OpenAI در حال بررسی چگونگی صدور مجوز چنین محتوایی است.
در این یادداشت میخوانید: «ما در حال بررسی این موضوع هستیم که آیا میتوانیم به شکلی مسئولانه، توانایی تولید محتوای ناسالم برای محیط کار (NSFW) را با رعایت محدودههای سنی از طریق API و ChatGPT فراهم کنیم یا خیر. ما مشتاقانه منتظر درک بهتر انتظارات کاربران و جامعه از رفتار مدل در این زمینه هستیم».
بر اساس این سند، محتوای NSFW (ناسالم برای محیط کار) شامل مطالب شهوانی، هجو شدید، توهین و ناسزاگویی ناخواسته (ادبیات چالهمیدانی) باشد». البته مشخص نیست که آیا چشمانداز OpenAI در مورد تولید مسئولانه محتوای NSFW از سختگیری سیاست استفاده آن تا حدودی میکاهد، مثلاً اجازه تولید متن هرزهنگاری را میدهد یا توصیفات و تصاویر خشن را در مقیاس گستردهتری تولید میکند.
نیکو فلیکس، سخنگوی شرکت OpenAI در پاسخ به پیگیری خبرنگار وایرد گفت: «ما هیچ قصدی نداریم که پورن هوش مصنوعی تولید کنیم». این در حالی است که یکی از نویسندگان سند جدید به NPR گفته است که اگر فناوری این شرکت محتوای بزرگسال تولید کند، کاربران درنهایت تصمیم خواهند گرفت و این مجوز بستگی به تعریف کاربر از پورن دارد.
پیشروی غیراخلاقی در فناوری
چرخه اقتصادی بالای هرزهنگاری از دیرباز، بهشدت وسوسهانگیز بوده است و به همین دلیل میتوان هرزهنگاری را در جمع پرمخاطبترین موارد مصرف هر فناوری تازهای دید. سهم قابلتوجهی از نخستین کتابهای منتشرشده در تاریخ به محتوای هرزهنگاری اختصاص داشته و این آمار در عکاسی، فیلمبرداری، اینترنت و استریم هم تکرار شده است.
گسترش هوش مصنوعی هم از هرزهنگاری بینصیب نمانده و پورنوگرافی تولیدشده با هوش مصنوعی، زودتر از آنچه کسی فکرش را میکرد به یکی از بزرگترین و دردسرسازترین برنامههای کاربردی با فناوری هوش مصنوعی مولد تبدیل شده است. این نوع محتوا که به «پورن دیپفیک» معروف شده، شامل تصاویر یا ویدیوهای هرزهنگاری است که با ابزارهای هوش مصنوعی ساخته شدهاند و افراد واقعی را بدون رضایت آنها به تصویر میکشد. پورن دیپفیک در حال حاضر به ابزاری رایج برای آزار و اذیت زنان و دختران تبدیل شده و به همین دلیل، بسیاری از شرکتهای پیشرو در هوش مصنوعی با فشار افکار عمومی یا قوانین دولتی، محدودیتهای سختگیرانهای برای تولید تصاویر بر اساس چهرههای واقعی ترتیب دادهاند؛ اما مشخص نیست که مدیران و سرمایهگذاران این شرکتها تا چه اندازه در برابر وسوسه مالی هرزهنگاری مقاومت خواهند کرد.
۵۴۵۴
