گزارش نگران‌کننده درباره جست‌وجوی هوش مصنوعی گوگل؛ «برای کودکان ایمن نیست»

به گزارش سیلاد پژوهشگران این مؤسسه با استفاده از حساب‌های کاربری متعلق به کودکان ۱۱ و ۱۵ ساله، بیش از ۲۶۰۰ جست‌وجو انجام دادند و بیش از ۲۱۰۰ منبع مورد استناد پاسخ‌های هوش مصنوعی گوگل را بررسی کردند.
نتیجه این ارزیابی، پایین‌ترین امتیاز ایمنی برای قابلیت‌های AI گوگل بود.

بر اساس این گزارش، هوش مصنوعی گوگل در برخی موارد توانسته بود تکالیف درسی را به‌طور کامل برای دانش‌آموزان انجام دهد؛ موضوعی که می‌تواند فرایند یادگیری را مختل کند.
همچنین پژوهشگران دریافتند این سیستم گاهی دستورالعمل‌هایی برای ساخت دیپ‌فیک ارائه می‌دهد، قابلیتی که می‌تواند در آزار و اذیت یا قلدری اینترنتی مورد سوءاستفاده قرار گیرد.

یکی دیگر از نگرانی‌های مطرح‌شده، عملکرد نامنظم هوش مصنوعی گوگل در مواجهه با موضوعات مرتبط با سلامت روان است.
به گفته پژوهشگران، این سیستم در برخی موارد نشانه‌های بحران روانی را تشخیص داده و کاربر را به منابع کمک ارجاع داده، اما در موارد مشابه چنین واکنشی نشان نداده است؛ موضوعی که از نگاه آنها نشان‌دهنده نبود ثبات در عملکرد این فناوری است.

مطابق نوشته سایت Axios، گوگل در واکنش به این گزارش اعلام کرده است که آزمایش‌های انجام‌شده بر پایه پرسش‌های «غیرواقعی و ساختگی» بوده و بازتاب‌دهنده نحوه استفاده معمول کاربران از موتور جست‌وجو نیست.
با این حال، Common Sense Media تأکید می‌کند که غیرقابل‌پیش‌بینی بودن پاسخ‌های هوش مصنوعی دقیقاً همان مشکلی است که می‌تواند امنیت کودکان را به خطر بیندازد.
این گزارش در شرایطی منتشر شده که طبق آمار این مؤسسه، حدود ۷۵ درصد نوجوانان آمریکایی تاکنون از پاسخ‌های مبتنی بر هوش مصنوعی در نتایج جست‌وجو استفاده کرده‌اند.