Компания Cerebras Systems представила специализированный чип для ИИ рекордных размеров. Это уже третье поколение больших чипов WSE (Wafer Scale Engine). По факту это цельная кремниевая пластина, объединённая в рамках одного вычислительного устройства. Площадь Cerebras WSE-3 составляет невероятные 46225 мм², что в 57 раз больше площади чипа у NVIDIA H100, и WSE-3 насчитывает 4 триллиона транзисторов. Изготовляется такой полупроводниковый гигант на конвейере TSMC по технологии 5 нм.
Cerebras WSE-3 насчитывает 900 тысяч вычислительных ядер и имеет 44 ГБ памяти SRAM. Данный гигант оптимизирован для вычислений ИИ-моделей с 24 триллионами параметров. Он способен обучать нейросети, которые в 10 раз крупнее GPT-4 и Gemini. Пиковая производительность Cerebras WSE-3 достигает невероятного значения в 125 петафлопс, в пропускная способность памяти 21 петабайт в секунду. Также упоминается, что данный чип может работать в конфигурациях с внешней памятью объемом 1,5 ТБ, 12 ТБ или 1,2 ПБ (петабайт).
Одновременно производитель представил готовые вычислительные системы CS-3 AI на базе таких чипов. Суперкомпьютер Cerebras CS-3 AI ориентирован для крупных корпоративных заказчиков, которым нужны гипермасштабные вычисления. Уже заявлено, что 64 системы Cerebras CS-3 AI с чипами WSE-3 будут поставлены для расширения мощностей большого суперкомпьютера Condor Galaxy 3.
Стоимость представленных устройств нигде не указана. Можно, предположить, что итоговый ценник будет впечатлять не меньше, чем размеры чипа. Для сравнения отметим, что ускоритель NVIDIA H100 на международной рынке продается в среднем за 30-40 тысяч долларов.
Источник: Wccftech.com