بزرگترین تراشه جهان اجرای مدل‌های هوش مصنوعی در مقیاس مغز را ممکن می‌کند

شرکت «Cerebras» امروز اعلام کرده که بزرگترین تراشه دنیا با یک سیستم می‌تواند از مدل‌های هوش مصنوعی با ۱۲۰ تریلیون سیناپس یا پارامتر پشتیبانی کند که از ۱۰۰ تریلیون سیناپس مغز انسان بالاتر است.

در حال حاضر اکثر دستگاه‌های مورد استفاده برای فعالیت‌های هوش مصنوعی با مجموعه‌های GPU از ۱ تریلیون پارامتر پشتیبانی می‌کنند. Cerebras برای دستیابی به چنین موفقیتی از یک سیستم با ۸۵۰ هزار هسته استفاده کرده، اما می‌توان کارهای هوش مصنوعی را به ۱۹۲ سیستم CS-2 با ۱۶۲ میلیون هسته بهینه شده برای هوش مصنوعی هم محول کرد که عملکرد را بهبود می‌دهد.

Cerebras CS-2 سریعترین تراشه هوش مصنوعی جهان است که از یکی از نیمه‌رساناهای منحصر به‌فرد در دنیا به حساب می‌آید. این تراشه ۴۶,۲۲۵ میلی‌متری و ۷ نانومتری حاوی ۲.۶ تریلیون ترانزیستور است و از ۸۵۰ هزار هسته بهینه شده با هوش مصنوعی بهره می‌برد.

هر یک از این چیپ‌های غول پیکر درون یک سیستم CS-2 تعبیه شده‌اند و از ۴۰ گیگابایت مموری SRAM بهره می‌برند. البته می‌توان به آن‌ها رم بیشتری هم اضافه کرد که اجرای مدل‌های هوش مصنوعی با مقیاس مغز انسان را ممکن می‌کند.

مقیاس‌پذیری در چنین سیستمی یک چالش به حساب می‌آید. با ۲۰ پتابایت پهنای باند حافظه، ارتباط بین چندین تراشه با استفاده از تکنیک‌های سنتی که بار را میان پردازنده‌ها به اشتراک می‌گذارد، کاری چالش‌برانگیز است. علاوه بر این، قدرت محاسباتی فوق‌العاده این سیستم مقیاس‌پذیری عملکرد میان چندین سیستم بخصوص با تراشه‌ای که مصرف ۱۵ کیلوواتی دارد را تبدیل به کاری دشوار می‌کند.

چنین مصرف انرژی نیاز به منبع تغذیه و همچنین سیستم خنک‌کننده قدرتمندی دارد که قرارگیری تراشه‌ای با این ابعاد درون یک سیستم را به کاری تقریبا غیرممکن تبدیل می‌کند.

با وجود چنین مشکلاتی، Cerebras رویکرد متفاوتی را در پیش گرفته. این کمپانی پارامترهای مدل را خارج از چیپ روی MemoryX قرار می‌دهد اما خود مدل روی تراشه قرار می‌گیرد. با این رویکرد نه تنها یک سیستم می‌تواند مدل‌های هوش مصنوعی بزرگتر را محاسبه کند، بلکه با مشکل معمول مانند تاخیر و مشکلات پهنای باند حافظه هم مقابله می‌کند. با این روش می‌توان عملکرد را با تقریبا ۱۹۲ سیستم CS-2 افزایش داد.

این کمپانی همچنین برای تقسیم کارها میان نودها از فناوری SwarmX Fabric استفاده می‌کند که از ارتباطات بهینه شده توسط هوش مصنوعی بهره می‌برد. هر سوییچ SwarmX می‌تواند از ۳۲ سیستم CS-2 و تقریبا ۱ ترابیت پهنای باند به ازای هر نود پشتیبانی کند.

هر سوییچ سیستم‌ها را به باکس MemoryX متصل می‌کند که با ۴ ترابایت تا ۲.۴ پتابایت ظرفیت حافظه همراه است. این باکس همچنین از چند هسته x86 برای اجرای نرم افزار بهره می‌برد.

در حالت کلی شرکت‌های تقریبا کمی در جهان به دنبال استفاده از چنین سیستمی خواهند بود، اما Cerebras می‌خواهد اجرای مدل‌های هوش مصنوعی را ساده کند. انتظار می‌رود قدرت بالای این سیستم‌ها بیشتر مورد استفاده سازمان‌های نظامی و امنیتی قرار بگیرد.