خطر فرار هوش مصنوعی از کنترل انسان / هشدار هم‌بنیان‌گذار انتروپیک

کلارک در گفت‌وگو با بی‌بی‌سی گفت: «اکنون ۸۰ درصد از کارهای کدنویسی انتروپیک را کلود، سامانه هوش مصنوعی این شرکت، انجام می‌دهد و این رقم ممکن است در چند سال آینده به ۱۰۰ درصد برسد. با این حال این که شرکت‌های هوش مصنوعی اجازه بدهند کار تا این حد بدون متوقف کردن آن پیش برود یا نه، یک انتخاب است.»

کلارک گفت: «ما فکر می‌کنیم این موضوعی است که جهان باید بیشتر درباره آن صحبت کند. صنعت هوش مصنوعی الان پدال گاز دارد اما در این خودرو پدال ترمز وجود ندارد و ما می‌خواهیم بخشی از کار ساختن آن پدال را انجام دهیم.»

به گفته انتروپیک در یک مطلب وبلاگی مرتبط که پنجشنبه شب منتشر شد، این فرایند «بهبود خودکار تکرارشونده» نام دارد؛ فرایندی که در آن یک سامانه هوش مصنوعی می‌تواند بدون دخالت انسان خود را بهبود دهد.

انتروپیک گفت: «در یک مدل تکرارشونده، عامل‌های هوش مصنوعی، یعنی کارگزاران خودکاری که توسط یک چت‌بات ساخته می‌شوند، می‌توانند آن قدر توانمند شوند که خودشان مدل‌ها را بسازند و آموزش دهند؛ در نتیجه، کلود می‌تواند به طور مداوم توسط خود کلود بهبود پیدا کند.»

انتروپیک هشدار می‌دهد که هرچند هوش مصنوعی تکرارشونده می‌تواند برای حوزه‌های علم و سلامت سودمند باشد، ممکن است به معنای افزایش «خطر از دست دادن کنترل انسان بر سامانه‌های هوش مصنوعی» هم باشد.

در این مطلب آمده است: «اگر سامانه‌ها بتوانند جانشینان خود را به طور کامل بسازند، شیوه‌هایی که با آنها این سامانه‌ها را ایمن می‌کنیم، زیر نظر می‌گیریم و رفتارشان را شکل می‌دهیم، بسیار مهم‌تر می‌شود.»

در خود مدل انتروپیک شواهدی وجود دارد که نشان می‌دهد تکرار خودکار زودتر از آنچه انتظار می‌رفت در راه است. این شرکت به این نکته اشاره می‌کند که نرخ اصلاح کد توسط کارکنانش در یک سال گذشته مدام کاهش یافته است؛ یعنی خطاها در خروجی‌های کلود کمتر شده است.

کلود همچنین زمانی که یک پرسش باز مطرح می‌شود، مانند «آیا یک مدل ضعیف‌تر می‌تواند بر یک مدل قوی‌تر نظارت کند؟»، قادر است خودش پژوهش‌هایی انجام دهد و بدون دخالت انسان به راه‌حل‌های خود برسد.

در این مطلب آمده است: «شواهد نشان می‌دهد نقش انسان در هر مرحله از فرایند توسعه هوش مصنوعی در حال محدودتر شدن است.»

انتروپیک گفت: «موسسه ما پژوهش‌هایی انجام خواهد داد تا یک سامانه طراحی کند که بررسی کند آیا توسعه‌دهندگان واقعا حرکت به سوی هوش مصنوعی تکرارشونده را متوقف یا کند کرده‌اند یا نه.»

با این حال، به گفته این شرکت، یک کند شدن واقعی مستلزم آن است که «چندین آزمایشگاه مجهز در مرزهای پیشرفته این فناوری، در چند کشور مختلف، بپذیرند که تحت شرایط یکسان توقف کنند».

منبع: یورونیوز