متا قابلیت جدیدی برای محافظت از نوجوانان فعال کرد؛ هشدار خودکشی به والدین ارسال می‌شود

به گزارش سیلاد و به نقل از Techcrunch، این اقدام در شرایطی انجام می‌شود که متا و دیگر شرکت‌های فعال در حوزه هوش مصنوعی، با افزایش فشار نهادهای نظارتی و نگرانی والدین درباره نحوه عملکرد چت‌بات‌ها در مواجهه با کاربران آسیب‌پذیر، به‌ویژه نوجوانان، روبه‌رو هستند. موضوع مسئولیت‌پذیری هوش مصنوعی در شرایط بحرانی، به یکی از مهم‌ترین عوامل تأثیرگذار بر طراحی و توسعه این محصولات تبدیل شده است.
 

تشخیص خودکار مکالمات پرخطر

متا اعلام کرده است که یک سامانه اختصاصی مبتنی بر هوش مصنوعی توسعه داده که می‌تواند مکالماتی را شناسایی کند که در آن نوجوان به‌طور مستقیم به خودآزاری یا آسیب رساندن به خود اشاره کرده باشد.

با این حال، شرکت تأکید کرده است که هیچ هشداری صرفاً بر اساس تشخیص خودکار ارسال نمی‌شود. تمامی گفت‌وگوهایی که توسط سامانه هوش مصنوعی به‌عنوان مشکوک شناسایی شوند، پیش از اطلاع‌رسانی به والدین، توسط نیروی انسانی بررسی خواهند شد.

متا در بیانیه‌ای اعلام کرد: «می‌دانیم دریافت چنین هشدارهایی برای والدین می‌تواند بسیار نگران‌کننده باشد. به همین دلیل، پیش از ارسال هرگونه هشدار، مکالمات علامت‌گذاری‌شده به‌صورت دستی بازبینی می‌شوند. اگر نشانه‌های خطر مبهم باشد، جانب احتیاط را رعایت کرده و والدین را مطلع می‌کنیم؛ حتی اگر در برخی موارد بعداً مشخص شود تهدید جدی وجود نداشته است.»

آغاز عرضه در چهار کشور

این قابلیت در حال حاضر برای والدینی فعال شده است که از ابزار نظارت والدین اینستاگرام در ایالات متحده، بریتانیا، کانادا و استرالیا استفاده می‌کنند. متا اعلام کرده است که این ویژگی تا پایان سال جاری میلادی به‌صورت جهانی در دسترس کاربران قرار خواهد گرفت.
 

کنترل بیشتر والدین بر فعالیت نوجوانان

قابلیت جدید، توسعه‌ای بر امکاناتی است که متا پیش‌تر در اختیار والدین قرار داده بود. این شرکت پیش از این نیز در صورت جست‌وجوی مکرر عبارات مرتبط با خودکشی یا خودآزاری در اینستاگرام، برای والدین هشدار ارسال می‌کرد.
همچنین والدین می‌توانند موضوعاتی را که فرزندشان طی یک هفته گذشته با Meta AI درباره آنها گفت‌وگو کرده است، مشاهده کنند.
 

اعمال محدودیت‌های محتوایی در Meta AI

متا همچنین اعلام کرد که تنظیمات «محتوای محدود» (Restricted Content) که پیش‌تر برای اینستاگرام ارائه شده بود، اکنون برای Meta AI نیز فعال می‌شود.

این قابلیت باعث می‌شود چت‌بات هوش مصنوعی، طیف گسترده‌تری از درخواست‌های نامناسب را رد کند. پیش از این نیز Meta AI به‌گونه‌ای آموزش دیده بود که از ورود به گفت‌وگوهای جنسی، روابط عاشقانه یا مباحث مرتبط با مصرف الکل با کاربران نوجوان خودداری کند و اکنون این محدودیت‌ها گسترده‌تر خواهد شد.

امکان تماس با خدمات اورژانس

متا از توسعه قابلیت دیگری نیز خبر داده است که بر اساس آن، اگر مکالمه یک کاربر با Meta AI (چه نوجوان و چه بزرگسال) نشان دهد که وی در معرض خطر جدی خودکشی قرار دارد، امکان تماس با خدمات اورژانس فراهم خواهد شد.

این شرکت پیش‌تر نیز در صورت انتشار محتوای نگران‌کننده درباره خودکشی یا خودآزاری در فیس‌بوک یا اینستاگرام، چنین اقدامی را انجام می‌داد و اکنون قصد دارد این سازوکار را به گفت‌وگوهای کاربران با چت‌بات هوش مصنوعی خود نیز گسترش دهد.