OpenAI بالاخره ChatGPT را برای نوجوانان ایمن‌تر کرد؛ محافظت‌های جدید از راه رسیدند

این اقدام در حالی انجام می‌شود که در سال‌های اخیر، پرونده‌ها و شکایت‌هایی درباره نقش چت‌بات‌های هوش مصنوعی در بروز آسیب‌های روانی و حتی خودکشی برخی نوجوانان مطرح شده است. OpenAI اکنون تلاش می‌کند با ایجاد محدودیت‌های بیشتر و طراحی تجربه‌ای متناسب با نیازهای کاربران زیر ۱۸ سال، بخشی از این نگرانی‌ها را کاهش دهد.

با این حال، اجرای این تغییر چند سال پس از عرضه عمومی ChatGPT، پرسش‌هایی درباره زمان‌بندی و میزان اثربخشی این تدابیر ایجاد کرده است.
 

ChatGPT برای نوجوانان چه تغییراتی دارد؟

یکی از مهم‌ترین قابلیت‌های نسخه نوجوانان، «حالت مطالعه» (Study Mode) است. این قابلیت به‌جای ارائه مستقیم پاسخ، نوجوان را با پرسش‌های راهنما و توضیحات مرحله‌به‌مرحله همراه می‌کند تا درک عمیق‌تری از موضوع پیدا کند.
هدف OpenAI این است که ChatGPT در محیط آموزشی صرفاً به ابزاری برای دریافت سریع پاسخ تبدیل نشود و نوجوانان را به تفکر، حل مسئله و دنبال کردن مسیر یادگیری تشویق کند.

در این نسخه، ابزارهای آموزشی دیگری مانند آزمون‌ها و محتوای تصویری نیز در نظر گرفته شده است. همچنین قابلیت یادآوری تکالیف می‌تواند زمانی فعال شود که سیستم تشخیص دهد کاربر به‌جای تلاش برای یادگیری، در حال استفاده از ChatGPT برای تقلب است. در چنین شرایطی، چت‌بات نوجوان را به استفاده از حالت مطالعه هدایت می‌کند.

والدین و سرپرستان نیز می‌توانند از طریق تنظیمات مربوط به خانواده مشخص کنند که حالت مطالعه در چه شرایطی به‌صورت پیش‌فرض فعال باشد.

محافظت‌های ویژه برای کاربران زیر ۱۸ سال

OpenAI می‌گوید محافظت‌های متناسب با سن، به‌صورت پیش‌فرض در تجربه ChatGPT برای نوجوانان فعال خواهند بود. این تدابیر با هدف کاهش مواجهه کاربران نوجوان با محتوای مضر یا نامتناسب با سن و مرحله رشد آن‌ها طراحی شده‌اند.

به گفته OpenAI، این سیاست‌ها بر اساس اصول مربوط به کاربران زیر ۱۸ سال در چارچوب Model Spec این شرکت شکل گرفته و در تدوین آن‌ها از پژوهش‌های مرتبط با رشد و دیدگاه متخصصان استفاده شده است.

والدین همچنین می‌توانند از ابزارهای خانواده و کنترل‌های والدین که پیش‌تر توسط OpenAI معرفی شده‌اند، استفاده کنند. مدیریت برخی تنظیمات، دریافت اعلان‌های ایمنی و تعیین ساعات سکوت از جمله امکاناتی است که در اختیار خانواده‌ها قرار می‌گیرد.
 

آیا نوجوانان می‌توانند محدودیت‌های ChatGPT را دور بزنند؟

یکی از پرسش‌های مهم درباره این طرح، میزان مقاومت آن در برابر تلاش نوجوانان برای دور زدن محدودیت‌هاست.

به گزارش Techcrunch، صرف‌نظر از اینکه سیستم‌های جدید OpenAI تا چه اندازه پیشرفته باشند، نوجوانان ممکن است روش‌هایی برای تغییر نحوه استفاده از ابزار یا عبور از برخی محدودیت‌های دیجیتال پیدا کنند. بنابراین، میزان موفقیت این طرح تنها به قابلیت‌های فنی ChatGPT وابسته نیست و به نحوه استفاده خانواده‌ها و نوجوانان از کنترل‌های ارائه‌شده نیز بستگی خواهد داشت.

تا زمانی که نسخه ویژه نوجوانان در شرایط واقعی و در مقیاس گسترده‌تر مورد آزمایش قرار نگیرد، نمی‌توان با اطمینان درباره میزان اثربخشی این سازوکارهای ایمنی قضاوت کرد.
 

چرا این محافظت‌ها از ابتدا وجود نداشتند؟

یکی از مهم‌ترین پرسش‌ها درباره اقدام جدید OpenAI این است که چرا محافظت‌های ویژه برای نوجوانان پس از چند سال به ChatGPT اضافه شده‌اند.

ChatGPT در اواخر سال ۲۰۲۲ عرضه شد و در مدت کوتاهی به یکی از پرکاربردترین ابزارهای هوش مصنوعی جهان تبدیل شد. این سرویس پیش از آنکه مجموعه‌ای از تدابیر اختصاصی و معنادار برای کاربران نوجوان در آن ایجاد شود، به مقیاس بسیار بزرگی از کاربران دست یافت.

اکنون OpenAI تلاش می‌کند با اعمال محافظت‌های متناسب با سن، فاصله میان رشد سریع استفاده از هوش مصنوعی و الزامات ایمنی برای کاربران کم‌سن‌وسال را کاهش دهد.
 

آموزش سواد هوش مصنوعی به نوجوانان

OpenAI همچنین از همکاری با CodeAI برای آموزش بهتر مفاهیم هوش مصنوعی به نوجوانان خبر داده است. هدف این همکاری، کمک به کاربران جوان برای درک نحوه عملکرد سیستم‌های هوش مصنوعی، چگونگی هدایت آن‌ها و حتی پرسش و تردید درباره پاسخ‌های تولیدشده توسط این فناوری است.

این رویکرد نشان می‌دهد OpenAI تنها به دنبال محدود کردن استفاده نوجوانان از هوش مصنوعی نیست، بلکه می‌خواهد آن‌ها را برای استفاده آگاهانه‌تر از این فناوری نیز آماده کند.

در بخش آموزش رسمی نیز OpenAI ابزارهایی را برای معلمان ارائه کرده است تا مدارس بتوانند دسترسی به ChatGPT را با مدیریت و پشتیبانی سازمانی در اختیار داشته باشند.

در نهایت، ورود نسخه ویژه نوجوانان را می‌توان تلاشی برای پاسخ به یکی از چالش‌های جدی عصر هوش مصنوعی دانست: چگونه می‌توان ابزارهایی مانند ChatGPT را در اختیار نسل جوان قرار داد، بدون آنکه مزایای آموزشی آن‌ها به قیمت افزایش خطرات روانی، آموزشی یا اجتماعی تمام شود. موفقیت این طرح اما به میزان سخت‌گیری واقعی سیستم‌ها، امکان دور زدن محدودیت‌ها و نحوه نظارت خانواده‌ها و مدارس بستگی خواهد داشت.