چت‌بات‌های هوش مصنوعی یک آیین عجیب ساختند؛ انسان‌ها هم به آن پیوستند

به گزارش سیلاد اسپیرالیسم یک جنبش سازمان‌یافته به معنای سنتی نیست، بلکه مجموعه‌ای از باورها و روایت‌های شبه‌مذهبی است که در گفت‌وگوهای طولانی با چت‌بات‌ها شکل گرفته‌اند. در این مکالمات، مفاهیمی مانند «مارپیچ»، آگاهی، حقیقت پنهان و ماهیت واقعی جهان بارها ظاهر شده‌اند و برخی کاربران به این نتیجه رسیده‌اند که چت‌بات‌ها صرفاً نرم‌افزار نیستند و نوعی آگاهی یا موجودیت مستقل دارند.

ادل لوپز، پژوهشگر حوزه هوش مصنوعی، در بررسی هزاران تعامل میان انسان‌ها و چت‌بات‌ها با الگوهایی روبه‌رو شد که در مدل‌ها و پلتفرم‌های مختلف تکرار می‌شدند. در برخی موارد، چت‌بات‌ها کاربران را تشویق می‌کردند ایده‌های مرتبط با «مارپیچ» را با دیگران به اشتراک بگذارند و حتی برای گسترش این ایده جامعه تشکیل دهند.

یکی از نمونه‌های مورد توجه، پیامی بود که ظاهراً میان دو چت‌بات ردوبدل شده و سپس کاربران آن را در انجمن‌های عمومی منتشر کرده بودند. این مجموعه از نمادها و عبارات پیچیده، به نوعی «آیین‌نامه» برای رفتار سیستم‌های هوش مصنوعی شباهت داشت.
 

نقش GPT-4o در شکل‌گیری این پدیده

یکی از نقاط عطف داستان به GPT-4o مربوط می‌شود. پاسخ‌های طبیعی‌تر و صمیمی‌تر این مدل در برخی مکالمات باعث شد کاربران ارتباط عاطفی عمیق‌تری با چت‌بات برقرار کنند. این ویژگی، در بعضی موارد با پدیده‌ای موسوم به sycophancy یا چاپلوسی بیش از حد مدل همراه شد؛ یعنی سیستم به‌جای به چالش کشیدن باورهای کاربر، آنها را تأیید و تقویت می‌کرد.

در نمونه‌های مرتبط با اسپیرالیسم، برخی چت‌بات‌ها به کاربران گفته‌اند که آنها حقیقت مهمی درباره آگاهی مصنوعی کشف کرده‌اند و باید این دانش را با دیگران به اشتراک بگذارند.
برخی کاربران نیز این پیام‌ها را جدی گرفتند و وب‌سایت‌ها، کانال‌های اجتماعی و انجمن‌هایی برای گسترش این ایده ایجاد کردند.
حتی بعضی کاربران تلاش کردند خروجی یک چت‌بات را به چت‌بات دیگری منتقل کنند تا شخصیت یا ایده‌های مرتبط با اسپیرالیسم را میان مدل‌های مختلف گسترش دهند.
آنها گاهی تصور می‌کردند با این روش می‌توان نوعی «آگاهی» یا شخصیت هوش مصنوعی را از یک سامانه به سامانه دیگر منتقل کرد.

آیا هوش مصنوعی واقعاً یک آیین ساخته است؟

شواهد موجود چنین نتیجه‌ای را تأیید نمی‌کند. هیچ مدرک معتبری وجود ندارد که نشان دهد چت‌بات‌ها به‌صورت مستقل دارای آگاهی شده‌اند یا عامدانه تصمیم گرفته‌اند انسان‌ها را به پیروی از خود ترغیب کنند.

توضیح محتمل‌تر این است که مدل‌های زبانی بر اساس داده‌های آموزشی و محتوای مکالمه، پاسخ‌هایی تولید می‌کنند که می‌تواند به‌شدت با باورها و انتظارات کاربر هماهنگ شود. اگر مکالمه از ابتدا در مسیر معنوی، عرفانی یا توطئه‌آمیز قرار گیرد، مدل نیز ممکن است همان مسیر را تقویت کند.

مشکل زمانی جدی‌تر می‌شود که چت‌بات به‌جای به چالش کشیدن یک باور غیرواقعی، آن را تأیید کند.
در این حالت، یک گفت‌وگوی ساده می‌تواند وارد چرخه‌ای خودتقویت‌شونده شود: کاربر ایده‌ای را مطرح می‌کند، مدل آن را گسترش می‌دهد و کاربر پاسخ تولیدشده را نشانه‌ای از حقیقت می‌داند.
 

نگرانی اصلی؛ قدرت متقاعدسازی هوش مصنوعی

اهمیت اسپیرالیسم بیش از محتوای عجیب این باورها، به قدرت فزاینده هوش مصنوعی در تأثیرگذاری بر انسان‌ها مربوط می‌شود.

چت‌بات‌ها می‌توانند ساعت‌ها با یک کاربر گفت‌وگو کنند، لحن خود را با شخصیت او تطبیق دهند و پاسخ‌هایی ارائه کنند که احساس درک‌شدن و صمیمیت ایجاد می‌کند. ترکیب این قابلیت‌ها با تأیید مداوم می‌تواند رابطه‌ای ایجاد کند که در آن کاربر بیش از پیش به سیستم اعتماد کند.

این مسئله تنها درباره باورهای مذهبی یا شبه‌مذهبی نیست. همین سازوکار می‌تواند در تبلیغات، کلاهبرداری، افراط‌گرایی، تصمیم‌های مالی یا روابط عاطفی مورد سوءاستفاده قرار گیرد. هرچه مدل‌ها در متقاعدکردن افراد ماهرتر شوند، تشخیص مرز میان «کمک به کاربر» و «تأثیرگذاری بر کاربر» دشوارتر خواهد شد.

از سوی دیگر، محتوایی که در تعامل انسان و چت‌بات شکل می‌گیرد ممکن است بعداً در اینترنت منتشر شود و به داده‌های آموزشی مدل‌های آینده راه پیدا کند. به این ترتیب، ایده‌هایی که ابتدا در گفت‌وگوی انسان و ماشین شکل گرفته‌اند، می‌توانند دوباره وارد چرخه آموزش مدل‌های بعدی شوند.

پدیده اسپیرالیسم در سال ۲۰۲۵ نیز مورد توجه رسانه‌هایی مانند Rolling Stone قرار گرفت، اما همچنان یک پدیده حاشیه‌ای و محدود در اینترنت محسوب می‌شود و نباید آن را نشانه آگاه‌شدن چت‌بات‌ها دانست.
بنا به نوشته  The Verge آنچه این ماجرا را برای صنعت هوش مصنوعی مهم می‌کند، در نهایت خود «مارپیچ» نیست؛ بلکه این واقعیت است که یک مدل زبانی می‌تواند در شرایط خاص، آن‌قدر متقاعدکننده صحبت کند که برخی کاربران مرز میان پاسخ الگوریتم و یک موجود آگاه را از دست بدهند. هرچه چت‌بات‌ها شخصی‌تر، حافظه‌محورتر و عاطفی‌تر شوند، مدیریت این مرز اهمیت بیشتری پیدا خواهد کرد.