Компания NVIDIA остается лидером гонки искусственного интеллекта, предлагая самые мощные и востребованные вычислительные решения. Вокруг этого выстроена большая аппаратно-программная инфраструктура, и NVIDIA уже выпускает большие кластерные решения для дата-центров. Сейчас компания переходит на второе поколение чипов Blackwell для мощных устройств GB300. Их характеристики были недавно представлены в отдельном ознакомительном материале. Производитель называет Blackwell Ultra чипами для фабрик ИИ.
Графический чип Blackwell Ultra является улучшенным вариантом чипа известного также как B200. Это огромный полупроводниковый чип на 208 миллиардов транзисторов, который состоит из двух кристаллов GPU на одной подложке, которые произведены по техпроцессу на базе техпроцесса TSMC 4NP. Плюс память HBM3E. Скоростное соединение между двумя кристаллами GPU обеспечивает NVIDIA High-Bandwidth Interface (NV-HBI) с пропускной способность 10 ТБ/с. При этом чип функционирует как единый ускоритель с привычной моделью программирования через CUDA.
Чип Blackwell Ultra можно сравнить со сдвоенным чипом GB202 (GeForce RTX 5090). Каждый кристалл имеет 160 больших блоков SM по 128 ядер CUDA, что в целом дает 2048 ядер CUDA и 640 тензорных блоков пятого поколения. И все это надо умножить на два, чтобы получить полные характеристики чипа. У первой версии большого Blackwell было активно по 16896 ядер CUDA на кристалл.
Блоки CUDA поддерживают операции FP32, INT32, FP16, BF16 и другие форматы. Тензорные ядра поддерживают вычисления FP8, FP6 и новый NVFP4 для быстрых матричных операций. Каждый SM внутри процессора имеет 256 КБ выделенного кэша для тензорных ядер, т.е. по 40 МБ тензорного кэша на один кристалл. Есть блоки SFUs для специальных математических операций в ядре ИИ-вычислений. То есть вся структура архитектуры SM заточена под ИИ.
Внедрение нового 4-битного формата вычислений NVFP4 с плавающей запятой обеспечивает аппаратное ускорение квантования для ИИ с более низким уровнем ошибок, чем при стандарте FP4. Точность при NVFP4 почти равна FP8 (разница менее 1%) при более высокой производительности. Если базовая версия чипа Blackwell обеспечивает производительность NVFP4 в 10 петафлопс, то Blackwell Ultra выдает уже до 15 петафлопс (PetaFLOPS).
Подсистема памяти организована по старой топологии. Это восемь банков памяти HBM3E на подложке с чипом и 16 контроллеров 512 бит при общей шине 8192 бит. Но применение стеков более высокой плотности позволило увеличить объем со 192 ГБ до 288 ГБ на чип. Общая пропускная способность 8 ТБ/с, что в 2,4 раза быстрее в сравнении с чипами H100.
Все чипы Blackwell и Blackwell Ultra поддерживают скоростные соединения NVIDIA NVLink пятого поколения, NVLink-C2C для когерентного взаимодействия с процессором NVIDIA Grace, плюс интерфейс x16 PCI-Express Gen 6 для подключения к CPU. NVLink 5 позволяет объединять до 576 графических процессоров в сети.
Также расширена мощность новых чипов до 1400 Вт. Первые Blackwell были ограничены уровнем 1200 Вт.
Новые чипы стали основой так называемых суперчипов Grace Blackwell Ultra GB300. Это комбинированный ускоритель вычислений с двумя графическими чипами Blackwell Ultra и одним многоядерным процессором Grace с ARM-ядрами. Также на плате находятся два сетевых коммутатора ConnectX-8 SuperNICs, которые обеспечивают скорость соединения 800 ГБ/с. У такого ускорителя на борту 1 ТБ комбинированной памяти, включая HBM3E и LPDDR5X.
Grace Blackwell Ultra GB300 используются в стоечных решениях NVIDIA GB300 NVL72 для масштабируемых кластерных решений. Пиковая производительность GB300 NVL72 достигает 1,1 экзафлопс (exaFLOPS). Такие стойки используют жидкостное охлаждение а также специальные технологии контроля питания для стабилизации энергопотребления.
Также чипы Blackwell Ultra найдут применение в вычислительных системах NVIDIA HGX и DGX B300.