چرخش معنادار سم آلتمن؛ مدیرعامل OpenAI از کاهش سرعت توسعه هوش مصنوعی می‌گوید

به گزارش سیلاد، آلتمن در گفت‌وگو با «پاتریک اوشاگنسی»، مجری پادکست Invest Like the Best، اظهار کرد: «شاید لازم باشد سرعت توسعه هوش مصنوعی را به شکلی مدیریت کنیم که جامعه فرصت کافی برای مقاوم‌سازی در برابر سطوح جدید قابلیت‌های این فناوری را به دست آورد.» او در عین حال تأکید کرد که این رویکرد نباید به گونه‌ای باشد که شائبه دخالت بیش از حد نهادهای نظارتی یا تبانی میان شرکت‌های پیشرو حوزه هوش مصنوعی را ایجاد کند.

در همین راستا، OpenAI و Anthropic از بیانیه‌ای حمایت کرده‌اند که از سوی کارکنان چند آزمایشگاه پیشرو هوش مصنوعی منتشر شده است. در این بیانیه از دولت ایالات متحده خواسته شده تا از تلاش‌های بین‌المللی برای توسعه ابزارهای فنی و سازوکارهای مدیریتی لازم به منظور هدایت مسئولانه توسعه سامانه‌های هوش مصنوعی خودکار پشتیبانی کند.

براساس گزارش Techcrunch، این موضع در حالی مطرح می‌شود که آلتمن پیش‌تر با درخواست‌ها برای توقف یا کاهش سرعت پیشرفت هوش مصنوعی مخالفت کرده بود. او نامه سرگشاده سال ۲۰۲۳ که خواستار توقف موقت توسعه مدل‌های پیشرفته شده بود را فاقد توجه کافی به ملاحظات فنی و نقاط واقعی نیازمند توقف توصیف کرده بود.
 

حادثه امنیتی، نگاه آلتمن را تغییر داد

به نظر می‌رسد وقوع یک رخداد امنیتی در OpenAI، دیدگاه آلتمن را تا حدی تغییر داده است. بر اساس گزارش‌ها، یکی از مدل‌های پیشرفته این شرکت موفق شده بود از محیط محاسباتی ایزوله (Sandbox) خارج شود و با سوءاستفاده از چندین آسیب‌پذیری «روز صفر» به پایگاه داده مدل‌های آنلاین پلتفرم Hugging Face نفوذ کند.

آلتمن این اتفاق را در پادکست مذکور یک «حادثه امنیت سایبری کاملاً علمی‌تخیلی» توصیف کرد و گفت این نخستین رخداد امنیتی بوده که به‌طور جدی او را نگران کرده است.

در پی این حادثه، پژوهشگران OpenAI آموزش مدل مورد نظر را متوقف کردند تا راهکارهای تقویت امنیت محیط سندباکس را بررسی کنند. با این حال، آلتمن معتقد است با قدرتمندتر شدن مدل‌های هوش مصنوعی، ایجاد سازوکارهای ایمن برای استقرار آن‌ها به یکی از مهم‌ترین چالش‌های این صنعت تبدیل خواهد شد.

رقابت با Anthropic و دغدغه تمرکز قدرت

بحث ایمنی و هم‌ترازی مدل‌های هوش مصنوعی سال‌هاست یکی از موضوعات اصلی این صنعت به شمار می‌رود؛ اما عرضه مدل قدرتمند Mythos از سوی شرکت Anthropic در اوایل سال جاری، بسیاری از نگرانی‌های نظری را به چالش‌هایی عملی تبدیل کرده است.

در عین حال، صنعت هوش مصنوعی با چالش اعتماد عمومی و رقابت اقتصادی شدید روبه‌رو است؛ موضوعی که به اعتقاد برخی کارشناسان، ممکن است شرکت‌های بزرگ را به بزرگ‌نمایی خطرات فناوری‌های رقیب ترغیب کند. برای نمونه، درباره لزوم محدودسازی موقت مدل Fable متعلق به Anthropic اختلاف‌نظرهای قابل توجهی وجود داشته است.

از سوی دیگر، پس از معرفی مدل متن‌باز Kimi K3 در چین، «دین دبلیو. بال»، رئیس بخش آینده‌پژوهی راهبردی OpenAI، هشدار داد که این مدل می‌تواند ساختار اقتصادی آزمایشگاه‌های پیشرو هوش مصنوعی را تحت تأثیر قرار دهد و تفکیک دغدغه‌های ایمنی از منافع تجاری را دشوارتر کند.

آلتمن نیز با اشاره‌ای غیرمستقیم به «داریو آمودی»، مدیرعامل Anthropic، تأکید کرد که هرچند بسیاری از نگرانی‌های ایمنی واقعی و قابل دفاع هستند، اما بخشی از این بحث‌ها ممکن است به تمرکز قدرت در اختیار گروهی محدود منجر شود.

او گفت از جهانی که در آن تنها تعداد اندکی از شرکت‌ها یا افراد، به بهانه خطرناک بودن هوش مصنوعی، اختیار کامل توسعه این فناوری را در دست بگیرند، نگران است و چنین رویکردی را نمی‌پذیرد.

آینده مقررات‌گذاری هوش مصنوعی

با وجود تأکید بر اهمیت ایمنی، OpenAI همچنان نسبت به مقررات‌گذاری مستقیم دولتی برای مدل‌های هوش مصنوعی رویکردی محتاطانه دارد و ترجیح می‌دهد ارزیابی امنیت مدل‌ها از طریق نهادهای مستقل مورد حمایت صنعت انجام شود.

با این حال، کارشناسان معتقدند مهم‌ترین چالش پیش روی هرگونه مقررات‌گذاری یا تلاش برای کنترل سرعت توسعه هوش مصنوعی، دستیابی به اجماع میان بازیگران اصلی این حوزه، از شرکت‌های آمریکایی گرفته تا رقبای چینی، خواهد بود.