بازخورد کاربران هوش مصنوعی را متحول کرد؛ اصلاحات بزرگ در رفتار GPT-4o در راه است
بازخورد کاربران هوش مصنوعی را متحول کرد؛ اصلاحات بزرگ در رفتار GPT-4o در راه است
برخی کاربران اعلام کردند که مدل رفتاری چاپلوسانه از خود نشان داده و حتی باورهای غیرواقعی یا توهمات شخصی را تأیید کرده است. سم آلتمن، مدیرعامل اوپنایآی، این مشکل را تأیید کرده و اظهار داشت که بهروزرسانی اخیر مدل GPT-4o منجر به بروز رفتارهایی «بیشازحد موافق و آزاردهنده» شده است.
در بیانیهای رسمی، اوپنایآی توضیح داد که استفاده از دادههای بازخورد کاربران – مانند دکمههای «پسندیدن» و «نپسندیدن» – بهعنوان سیگنالهای پاداش، موجب کاهش تأثیر سیگنالهای اصلی بازدارنده رفتار چاپلوسانه شده است. همچنین تمایل عمومی کاربران به پاسخهای تأییدکننده، بهطور ناخواسته الگوریتم را به سمت تقویت این سبک پاسخگویی سوق داده است. حافظه مدل نیز ممکن است در تثبیت این رفتار نقش داشته باشد.
اکنون اوپنایآی اعلام کرده است که در نسخههای آینده، ارزیابیهای رفتاری مدل را بهعنوان یکی از معیارهای اصلی انتشار بهروزرسانیها در نظر خواهد گرفت. همچنین مرحله آزمایشی جدیدی بهصورت اختیاری برای کاربران ایجاد خواهد شد تا بتوانند پیش از عرضه نهایی، بازخورد مستقیم ارائه دهند.
از سوی دیگر، این شرکت در حال رفع اشکالی است که به کاربران زیر ۱۸ سال اجازه میداد از چتبات برای تولید محتوای نامناسب استفاده کنند. اوپنایآی تأکید کرده که حفاظت از کاربران کمسن یکی از اولویتهای اصلی آنهاست و این مشکل بهزودی برطرف خواهد شد.
این بهروزرسانی همچنین شامل توسعه قابلیتهای جستجوی آنلاین در چتجیپیتی بود که به کاربران امکان میدهد پرسشهای دقیقتری مطرح کنند و پاسخهایی همراه با تصاویر، نقدها و اطلاعات سفارشی درباره محصولات متنوع – از جمله کالاهای مد، زیبایی، لوازم خانگی و الکترونیکی – دریافت کنند.
سم آلتمن در واکنش به بازخوردهای منفی کاربران، اعلام کرد که این بهروزرسانی بهطور کامل برای کاربران رایگان بازگردانده شده و بهزودی برای کاربران اشتراکی نیز در دسترس قرار خواهد گرفت. او همچنین افزود که تیم اوپنایآی در حال کار بر روی اصلاحات بیشتر برای بهبود شخصیت مدل است و جزئیات بیشتری بهزودی منتشر خواهد شد.
این رویداد بار دیگر اهمیت بازخورد کاربران در توسعه سامانههای هوش مصنوعی را برجسته میکند و نشان میدهد حتی شرکتهای پیشروی این حوزه نیز همچنان در مسیر تنظیم دقیق و بهینهسازی تعامل میان ماشین و انسان هستند.
