خط قرمز جدید ChatGPT؛ هشدار به والدین در صورت رفتار خشونت‌آمیز نوجوانان

این اقدام بخشی از گسترش ابزارهای کنترل والدین در ChatGPT است و هدف آن فراهم کردن امکان بیشتری برای خانواده‌هاست تا در صورت مشاهده نشانه‌هایی که می‌تواند نوجوان یا دیگران را در معرض خطر قرار دهد، بتوانند مداخله کنند.
 

اطلاع‌رسانی به والدین

بر اساس سیستم جدید، والدینی که حساب کاربری خود را به حساب فرزند نوجوانشان متصل کرده‌اند، در صورت تعلیق حساب نوجوان توسط OpenAI به دلیل فعالیت‌های خشونت‌آمیز، ممکن است اعلانی از سوی این شرکت دریافت کنند.

OpenAI توضیح داده است که این اعلان می‌تواند شامل هشداری درباره یک به‌روزرسانی مهم مرتبط با حساب کاربری نوجوان باشد. والدین با انتخاب گزینه مربوطه می‌توانند جزئیات بیشتری را مشاهده کنند؛ از جمله اینکه آیا حساب به دلیل نقض سیاست‌های شرکت درباره رفتارهای خشونت‌آمیز غیرفعال شده است یا خیر.

با این حال، OpenAI تأکید کرده است که این هشدارها به‌گونه‌ای طراحی شده‌اند که محدود و دقیق باشند و مکالمات مربوط به داستان‌نویسی، بازی، اخبار، سیاست، ابراز خشم عمومی یا پرسش‌های نظری را هدف قرار نمی‌دهند.
 

گسترش ابزارهای کنترل والدین

OpenAI پیش از این نیز ابزارهای کنترل والدین را در ChatGPT راه‌اندازی کرده بود. این ابزارها به والدین اجازه می‌دهند حساب خود را به حساب فرزند نوجوانشان متصل کنند و مجموعه‌ای از تنظیمات مربوط به نحوه استفاده از ChatGPT را مدیریت کنند.

از جمله امکانات این بخش می‌توان به تعیین ساعت‌هایی که ChatGPT در دسترس نوجوان نباشد، محدود کردن محتوای حساس، غیرفعال کردن قابلیت صدا یا حافظه، جلوگیری از تولید تصویر و جلوگیری از استفاده از گفت‌وگوهای نوجوان برای آموزش مدل اشاره کرد.

والدین همچنین می‌توانند حالت مطالعه را مستقیماً از طریق تنظیمات کنترل والدین فعال کنند. این قابلیت به‌جای ارائه پاسخ نهایی، با ارائه نکات و راهنمایی‌ها به نوجوان، به فرایند یادگیری او کمک می‌کند.
 

محافظت از دیگران

اهمیت این اقدام با افزایش نگرانی‌ها درباره نحوه برخورد سامانه‌های هوش مصنوعی با محتوای خشونت‌آمیز بیشتر شده است.
OpenAI اعلام کرده بود که پس از مطرح شدن جنجال‌هایی درباره استفاده یکی از مظنونان تیراندازی دسته‌جمعی Tumbler Ridge در کانادا از ChatGPT، پروتکل‌های ایمنی خود را تقویت کرده است. این شرکت به دلیل نحوه مدیریت حساب کاربری پیش از وقوع حمله نیز با انتقادهایی روبه‌رو شده بود.

به گفته این شرکت، هدف از راه‌اندازی سیستم جدید این است که خانواده‌ها در صورت مشاهده نشانه‌های خطرناک، به‌جای اینکه تنها با بسته شدن حساب کاربری مواجه شوند، فرصت مداخله به‌موقع داشته باشند.
 

بخشی از یک سیستم حفاظتی گسترده‌تر

اقدامات OpenAI تنها به مقابله با محتوای خشونت‌آمیز محدود نمی‌شود. سیستم کنترل والدین این شرکت همچنین شامل هشدارهایی درباره نشانه‌هایی است که می‌تواند نشان دهد یک نوجوان در معرض آسیب رساندن به خود قرار دارد.

در شرایطی که سیستم‌ها نشانه‌هایی از پریشانی حاد را شناسایی کنند، امکان تماس با والدین نیز وجود دارد. OpenAI تأکید می‌کند که این ابزارها جایگزین نظارت و مداخله والدین نیستند، بلکه با هدف فراهم کردن ابزارهای بیشتر برای درک نحوه استفاده نوجوانان از هوش مصنوعی و کمک به مداخله در مواقع ضروری طراحی شده‌اند.