با اتهام نادرست توسط ChatGPT، مردی بی‌گناه قاتل معرفی شد!

پس از گذشت بیش از دو سال از عرضه ChatGPT، این چت‌بات همچنان با مشکلاتی از جمله «توهمات» (بیان اطلاعات نادرست به‌عنوان حقیقت) دست‌وپنجه نرم می‌کند.

به گزارش سیلاد و به نقل از انگجت، اخیراً گروه مدافع حریم خصوصی Noyb در اتریش دومین شکایت خود را علیه OpenAI ثبت کرده و نمونه‌ای از این خطاها را مطرح کرده است؛ موردی که در آن، ChatGPT به‌اشتباه یک مرد نروژی را قاتل معرفی کرده است.

ماجرا از این قرار است که این مرد هنگام جستجوی نام خود در ChatGPT، متوجه شد که این چت‌بات اطلاعاتی جعلی اما دقیق درباره زندگی شخصی‌اش ارائه داده است. ChatGPT ادعا کرده بود که وی به ۲۱ سال زندان محکوم شده، زیرا دو فرزندش را به قتل رسانده و سعی کرده فرزند سومش را نیز بکشد. این در حالی بود که چنین اتهامی کاملاً نادرست بود. جالب‌تر آنکه چت‌بات جزئیاتی واقعی، از جمله تعداد فرزندان، جنسیت آنها و نام شهر محل زندگی این مرد را نیز در پاسخ خود آورده بود، که بر واقعی به‌نظر رسیدن این دروغ افزود.
 

گروه Noyb مدعی است که این اشتباه نقض آشکار قوانین «مقررات عمومی حفاظت از داده‌ها» (GDPR) در اتحادیه اروپا محسوب می‌شود. طبق این قانون، اطلاعات شخصی باید دقیق باشند و در صورت نادرست بودن، کاربران حق دارند که داده‌های نادرست تصحیح شوند. وکیل مدافع داده‌های Noyb، یواکیم سودربرگ، دراین‌باره می‌گوید: «GDPR کاملاً شفاف است؛ اطلاعات شخصی باید صحیح باشند. اگر چنین نباشد، کاربران حق دارند آن را تصحیح کنند. صرف نمایش یک پیام هشدار کوچک که اعلام کند ChatGPT ممکن است اشتباه کند، کافی نیست. نمی‌توان اطلاعات غلط را منتشر کرد و در پایان صرفاً هشدار داد که ممکن است اشتباه باشد!»

این مورد تنها یکی از نمونه‌های مشکلاتی است که فناوری‌های هوش مصنوعی با آن مواجه‌اند. خطاهای مشابه بارها گزارش شده‌اند و نگرانی‌ها درباره مسئولیت‌پذیری شرکت‌های توسعه‌دهنده هوش مصنوعی، از جمله OpenAI، افزایش یافته است. این شکایت می‌تواند فشار بیشتری بر OpenAI وارد کند تا اقداماتی برای بهبود دقت ChatGPT و جلوگیری از انتشار اطلاعات نادرست اتخاذ کند.