پیام صریح واتیکان به سیلیکون‌ولی؛ هوش مصنوعی را خلع سلاح کنید

پاپ Pope Leo XIV در نخستین سند آموزشی مهم دوران رهبری خود خواستار «خلع سلاح» هوش مصنوعی شده و هشدار داده است که توسعه کنترل‌نشده این فناوری می‌تواند پیامدهای خطرناکی برای بشریت داشته باشد.

به گزارش سیلاد به نقل از تک‌اسپات، او در سندی ۸۲ صفحه‌ای با عنوان Magnifica Humanitas یا «انسانیت باشکوه» تأکید می‌کند که AI نباید در فضایی مبتنی بر رقابت تسلیحاتی و منافع انحصاری رشد کند.

این سند که نخستین فرمان رسمی پاپ برای جامعه ۱.۴ میلیارد نفری کاتولیک محسوب می‌شود، بخش زیادی از تمرکز خود را بر خطرات هوش مصنوعی، به‌ویژه در حوزه نظامی، قرار داده است. پاپ معتقد است برخی سامانه‌های تسلیحاتی خودکار در حال خروج از کنترل معنادار انسان هستند و ادامه این روند می‌تواند تبعات اخلاقی و انسانی جدی به همراه داشته باشد. او تأکید می‌کند که AI باید در خدمت انسان، قابل‌دسترس و موضوع گفت‌وگوی عمومی باشد.

پاپ لئو چهاردهم توضیح داده که واژه «خلع سلاح» را عمداً برای جلب توجه انتخاب کرده، هرچند منظور او توقف کامل توسعه هوش مصنوعی نیست. او بیشتر به‌دنبال حذف نگاه رقابتی و تهاجمی در توسعه این فناوری است؛ نگرشی که به گفته او اکنون بر بخش زیادی از صنعت فناوری حاکم شده است.

 

در بخشی از این سند، پاپ به تمرکز قدرت در دست تعداد محدودی از شرکت‌های فناوری اشاره می‌کند و هشدار می‌دهد که کنترل واقعی بر سیستم‌های دیجیتال دیگر در اختیار دولت‌ها نیست. او معتقد است این تمرکز قدرت باعث کاهش شفافیت، فرار از نظارت عمومی و شکل‌گیری وابستگی‌ها و نابرابری‌های جدید می‌شود.

در مراسم معرفی این سند در واتیکان، کریس اولاه (Chris Olah)، هم‌بنیان‌گذار شرکت آنتروپیک، نیز حضور داشت و از نگرانی‌های پاپ حمایت کرد. او گفت پژوهشگران و شرکت‌های هوش مصنوعی اغلب تحت فشار رقابت، جاه‌طلبی و منافع مالی قرار دارند و به منتقدان آگاه و صداهای اخلاقی نیاز است تا مسیر توسعه AI را اصلاح کنند.

این سند همچنین به موضوعاتی فراتر از فناوری می‌پردازد. پاپ با اشاره به تأخیر تاریخی کلیسا در محکوم‌کردن برده‌داری، هشدار می‌دهد که اقتصاد دیجیتال و استخراج منابع موردنیاز زیرساخت‌های AI می‌تواند شکل تازه‌ای از استعمار و بهره‌کشی ایجاد کند؛ به‌ویژه در کشورهای جنوب جهان که مواد معدنی موردنیاز مراکز داده از آنها استخراج می‌شود.