NVIDIA представила два новых продукта в рамках платформы EGX Edge AI для систем ИИ в реальном времени.
EGX A100 – первый edge-продукт для ИИ на базе архитектуры NVIDIA Ampere. Это решение для крупных коммерческих систем, которое сочетает высокую скорость вычислений архитектуры NVIDIA Ampere с ускоренным интерфейсом и возможностями безопасности, обеспеченными NVIDIA Mellanox ConnectX-6 Dx SmartNIC. Архитектура NVIDIA Ampere обеспечивает самый большой прирост производительности для широкого спектра ресурсоемких задач, включая ИИ-инференс и работу с 5G-приложениями на периферии. Это позволяет EGX A100 обрабатывать большие массивы данных в реальном времени, поступающие с камер и других IoT-датчиков для быстрого получения информации и повышения эффективности бизнеса.
С сетевой картой NVIDIA Mellanox ConnectX-6 Dx система EGX A100 может получать до 200 Gbp/s данных и отправлять их прямо в память GPU для обработки ИИ или 5G сигналов. С управляемой технологией передачи данных NVIDIA Mellanox для телекома (5T для 5G) ускоритель EGX A100 способен справляться с большинством задач 5G, чувствительных к задержкам. Это создает полноценную ИИ/5G платформу для принятия решений в реальном времени непосредственно в местах событий — магазинах, больницах и на производствах.
EGX Jetson Xavier NX — устройство для граничных (edge) микросерверов, призванных обеспечить высокую скорость обработки ИИ-данных на периферии инфраструктуры.
Это маленький мощный ИИ-суперкомпьютер для микросерверов и edge AIoT-устройств. Вся мощь системы-на-чипе NVIDIA Xavier заключена в модуле размером с кредитную карту. EGX Jetson Xavier NX, оснащенный облачным программным стеком EGX, может быстро обрабатывать потоковые данные от многочисленных датчиков высокого разрешения.
Энергоэффективный модуль обладает производительностью до 21 TOPS при потреблении 15 Вт и 14 TOPS при 10 Вт. В результате, EGX Jetson Xavier NX открывает путь для встраиваемых устройств для граничных вычислений, которым требуется повышенная производительность для ИИ-задач для при сохранении компактных размеров, малого веса, лимита энергопотребления или стоимости.