Компания официально объявила об отправке клиентам систем DGX H100. В основе этих серверных систем для ускорения вычислений искусственного интеллекта восемь ускорителей NVIDIA H100 на архитектуре Hopper и новые процессоры Intel Sapphire Rapids.

Ускоритель NVIDIA H100 был представлен на конференции GTX 2022. Процессор GH100 выполнен по 4-нм техпроцессу и насчитывает 80 миллиардов транзисторов. У него активно 14592 ядра CUDA из 16896 ядер и 456 тензорных ядра для операций ИИ. Ускоритель оснащен 80 ГБ быстрой памяти HBM3, которая расположена на одной подложке с вычислительным блоком, а разрядность интерфейса памяти 5120 бит. Вычислительные системы DGX H100 используют восемь таких ускорителей, которые соединяются благодаря быстрой шине NVLINK.

Благодаря вычислительному потенциалу 4000 TFLOPs в операциях ИИ этот ускоритель признан лучшим чипом для центров обработки данных для нагрузок искусственного интеллекта (AI), машинного обучения (ML), глубоких нейронных сетей (DNN) и различных HPC-вычислений.

Суперкомпьютеры NVIDIA DGX H100 уже отправлены клиентам по всему миру. Среди заказчиков Институт искусственного интеллекта Boston Dynamics, немецкая компания DeepL GmbH, разрабатывающая онлайн-переводчик DeepL, и другие компании, занимающиеся генеративным ИИ и другими исследованиями.

Также отмечается, что правильная настройка системы играет важную роль в ее эффективности. У NVIDIA есть обширный программный стек, предназначенный для того, чтобы выжимать из графических процессоров все возможности. И для полного развёртывания систем NVIDIA DGX H100 примерно 80% времени уходит на программное обеспечение и настройку и только 20% на аппаратную настройку.