ادعای استارت‌آپ مهندسان هاروارد؛ ساخت شتاب دهنده 20 برابر سریع‌تر از غول H100 انویدیا

یک استارتاپ جدید به نام Etched ادعا می‌کند تراشه هوش مصنوعی ساخته که عملیات استنتاج یا Inference در مدل‌های زبانی بزرگ LLM را 20 برابر سریع‌تر از پرچمدار چیپ‌های دیتاسنتر انویدیا یعنی H100 انجام می‌دهد. در ادامه با شهر سخت‌افزار همراه باشید تا مشخصات این محصول را بررسی کنیم.

به گزارش Tomshardware، استارتاپ تازه تأسیس Etched که بر ساخت مدارهای مجتمع با کاربرد خاص یا ASIC برای شتاب‌دهی به اجرای مدل‌های هوش مصنوعی ترنسفرمر متمرکز است، به تازگی از چیپ جدید خود به نام Sohu رونمایی کرده است.

به ادعای Etched، یک سرور متشکل از 8 تراشه Sohu عملکردی مشابه 160 تراشه گرافیکی H100 انویدیا ارائه می‌کند. در صورت صحت این ادعا سازندگان دیتاسنترهای هوش مصنوعی با استفاده از این محصول می‌توانند علاوه بر هزینه‌‌های عملیاتی، میزان سرمایه اولیه مورد نیاز را نیز به طور چشم‌گیری کاهش دهند.

طبق بیانیه این شرکت، چیپ‌های شتاب‌دهنده هوش مصنوعی از جمله CPU یا GPU، در حال حاضر برای کار با انواع معاری‌های هوش مصنوعی طراحی شده‌اند. و این موضوع به آن معنا است که این تراشه‌ها باید از انواع مدل‌ها مثل شبکه‌های عصبی کانولوشنی، مدل‌های فضای حالت و دیگر مدل‌های شبیه آن پشتیبانی کنند.

مدل‌های زبانی بزرگ یا LLM بیشتر بر محاسبات ضرب ماتریس تکیه دارند، این در حالی است که تنها 3.3 درصد از مساحت تراشه انویدیا H100 به واحد‌های ضرب ماتریسی اختصاص داده شده است و 96.7 درصد از سطح تراشه به وظایف دیگر اختصاص دارد.

به همین دلیل Etched در تراشه جدید خود تمرکز را بر پشتیبانی از مدل‌های ترنسفرمر گذاشته. و همین موضوع باعث شده این تراشه تا 20 برابر از معماری Hopper و تا 10 برابر از تراشه‌های مبتنی بر معماری Blackwell سریع‌تر باشد.

در همین رابطه بخوانید:

– کابوس جدید برای انویدیا؛ اجرای مدل‌های بزرگ هوش مصنوعی روی گرافیک 13 واتی!

– رونمایی از شتاب دهنده هوش مصنوعی Instinct MI325X توسط AMD با حافظه غول‌پیکر 288 گیگابایتی

به ادعای این شرکت، در تراشه‌های متداول تنها 30 تا 40 درصد از توان پردازشی قابل استفاده است اما در تراشه Sohu تا 90 درصد از قدرت پردازشی تراشه برای اجرای مدل‌های هوش مصنوعی ترنسفرمر قابل استفاده است.

با این وجود، ساخت تراشه‌ای که تنها قادر به اجرای یک نوع خاص از مدل‌های هوش مصنوعی باشد بدون اشکال نیست. چرا که ممکن است با پیشرفت سریع فناوری هوش مصنوعی و روی کار آمدن مدل‌های جدید تمام سرمایه‌گذاری‌های این شرکت بی اثر شود.

به نظر شما شرط‌بندی این استارتاپ نوظور روی ساخت تراشه‌ای که فقط توان اجرای یک مدل هوش مصنوعی را دارد جواب خواهد داد؟