به گزارش مدیاتی:شرکت آنتروپیک در ادامه تلاشهای خود برای کاهش هزینههای سنگین پردازش مدلهای هوش مصنوعی، اکنون بهدنبال استفاده از تراشههای یک استارتاپ نوظهور به نام Fractile رفته است. این همکاری میتواند به آنتروپیک کمک کند تا عملیات پردازشی مدلهای بزرگ خود را سریعتر، مقرونبهصرفهتر و مستقلتر از تأمینکنندگان سنتی تراشه انجام دهد. رویکردی که نشان میدهد رقابت میان شرکتهای پیشرو در حوزه هوش مصنوعی تنها به مدلها محدود نیست، بلکه در سطح سختافزار و بهینهسازی هزینهها نیز شدت گرفته است.
قدم تازه آنتروپیک برای کمکردن هزینهها؛ همکاری با استارتاپ تراشهساز Fractile
آنتروپیک بهنظر میرسد وارد مرحله مذاکره اولیه با استارتاپ تراشهسازی Fractile در لندن شده تا از شتابدهندههای استنتاج این شرکت در زیرساخت هوش مصنوعی خود استفاده کند.
آنتروپیک همیشه تلاش کرده وابسته به یک تأمینکننده سختافزار نباشد. مدلهای Claude هماکنون روی GPUهای انویدیا، پردازندههای Trainium آمازون و TPUهای گوگل اجرا میشوند و حالا طبق گزارشهای جدید، این شرکت قصد دارد تراشههای Fractile را نیز به این ترکیب اضافه کند.
مزیت تراشههای Fractile برای آنتروپیک
استارتاپ Fractile که در سال ۲۰۲۲ توسط والتر گودوین ـ فارغالتحصیل دکترای آکسفورد ـ تأسیس شد، روی توسعه تراشهای ویژه استنتاج هوش مصنوعی کار میکند. این تراشه بهجای اتکا به DRAM خارجی، حافظه و پردازش را با استفاده از SRAM در یک ساختار واحد ترکیب میکند.
گودوین در سال ۲۰۲۴ توضیح داده بود که این طراحی باعث میشود دادههای موردنیاز درست در کنار ترانزیستورهای پردازشی ذخیره شوند و نیازی به انتقال مداوم دادهها به خارج از تراشه نباشد. نتایج شبیهسازیهای اولیه نشان میداد تراشه Fractile میتواند اجرای یک مدل زبانی بزرگ را تا ۱۰۰ برابر سریعتر و ۱۰ برابر ارزانتر از GPUهای انویدیا انجام دهد. با این حال انتظار میرود این تراشهها تا سال ۲۰۲۷ وارد مرحله تجاریسازی شوند.
Fractile تاکنون حدود ۱۵ میلیون دلار سرمایه اولیه جذب کرده و اکنون برای جذب ۲۰۰ میلیون دلار سرمایه جدید با ارزشگذاری بیش از ۱ میلیارد دلار مذاکره میکند. نامهایی مانند Founders Fund، 8VC و Accel در میان سرمایهگذاران بالقوه دیده میشود. تیم این استارتاپ نیز شامل مهندسانی با سابقه فعالیت در Graphcore، انویدیا و Imagination Technologies است.
علاقه آنتروپیک به این استارتاپ در زمانی مطرح شده که تقاضا برای زیرساخت فعلی این شرکت بهشدت افزایش یافته و هزینه بالای استنتاج فشار قابلتوجهی بر حاشیه سود آن ایجاد کرده است. برخلاف شرکتهایی مانند OpenAI و xAI که مراکز داده اختصاصی خود را توسعه میدهند، آنتروپیک ترجیح داده زیرساخت خود را از چند ارائهدهنده مختلف اجاره کند؛ رویکردی که هم هزینهها را افزایش میدهد و هم نیاز به راهکارهای سختافزاری مقرونبهصرفهتر را پررنگتر میکند.
