Компания анонсировала ускоренную платформу GH200 с графическими процессорами, которые получили новую память. Суперчипы Grace Hopper сочетают 72 процессорных ядра Arm Neoverse V2, GPU Hopper c HBM-памятью и до 480 ГБ памяти LPDDR5X. В первой версии платформы использовались чипы Hopper с 96 ГБ памяти HBM3. Переход на HBM3e позволили использовать стеки по 24 ГБ с более высокой пропускной способностью. В итоге один GPU теперь получил 144 ГБ локальной памяти, а общая пропускная способность достигла 5 ТБ/с вместо 4 ТБ/с. Двухчиповая система GH200 обеспечивает пропускную способность 10 ТБ/с при рекордном объеме в 282 ГБ. Это самый мощный ускоритель вычислений для ИИ.

Полные характеристики суперчипов Grace Hopper представлены в таблице от Anandtech.com.

Обновленные суперчипы совместимы с серверной инфраструктурой NVIDIA MGX. Поставки GH200 на базе HBM3 стартовали во втором квартале 2023 года, поставки GH200 на HBM3e начнутся во втором квартале 2024 года.