В рамках презентации на Computex компания NVIDIA представила платформу ускоренных вычислений NVIDIA EGX, которая позволяет компаниям использовать ИИ с низкими задержками на периферийных устройствах: получать непрерывный поток данных от 5G станций, складов, магазинов, заводов и других мест, обрабатывать их и принимать необходимые решения в реальном времени. Платформа NVIDIA EGX призвана удовлетворить растущий спрос на мгновенное выполнение задач ИИ локально – там, где создаются данные, с гарантированным временем отклика, позволяя снизить объем данных, отправляемых в облако.
К 2025 году человечеству понадобится порядка 150 млрд датчиков и IoT устройств для обработки бесконечного потока данных — это на порядки больше объема данных, поступающих сегодня со смартфонов. Edge-серверы, такие, как NVIDIA EGX, будут установлены повсеместно для обработки данных с сенсоров в режиме реального времени.
«Компаниям нужны более мощные локальные вычислительные ресурсы для обработки огромных массивов сырых данных, поступающих от бесчисленных взаимодействий с пользователями и оборудованием, для принятия быстрых бизнес-решений на базе результатов ИИ-обработки, - говорит Боб Пит (Bob Pette), вице-президент и директор по корпоративным и периферийным вычислениям в NVIDIA. - Масштабируемая платформа, такая, как NVIDIA EGX, позволяет легко разворачивать необходимые системы локально, или в облаке, или и там, и там».
На одном краю EGX крошечный чип NVIDIA Jetson Nano, способный выполнять полтриллиона операций в секунду (TOPS) при энергопотреблении всего несколько Ватт в таких задачах, как распознавание изображений. EGX масштабируется до полноценной стойки серверов NVIDIA T4, способных обеспечить свыше 10 000 TOPS в операциях распознавания речи и других ИИ-задачах в реальном времени.
NVIDIA заключила соглашение с Red Hat для интеграции и оптимизации набора ПО NVIDIA Edge Stack под OpenShift, ведущую платформу управления кластером контейнеров Kubernetes корпоративного уровня. NVIDIA Edge Stack – оптимизированный пакет ПО, включающий драйверы NVIDIA, плагин CUDA Kubernetes, среду исполнения для контейнеров CUDA, библиотеки CUDA-X и контейнеризированные AI фреймворки и приложения, включая TensorRT, TensorRT Inference Server и DeepStream.
EGX объединяет полный набор вычислительных ИИ-технологий NVIDIA с Red Hat OpenShift и NVIDIA Edge Stack, а также технологии защиты, связи и хранения данных Mellanox и Cisco. Это позволяет компаниям в крупнейших областях – телекоме, производстве, ритейле, здравоохранении и транспорте — быстро строить современные и надежные корпоративные ИИ-инфраструктуры.
ИИ-вычисления NVIDIA доступны в ключевых облаках и архитектурно совместимы с NVIDIA EGX. ИИ-приложения, разработанные в облаке, могут работать на NVIDIA EGX и наоборот. NVIDIA Edge Stack подключается к ключевым облачным IoT сервисам, и клиенты могут удаленно управлять своим сервисом из AWS IoT Greengrass и Microsoft Azure IoT Edge.
NVIDIA EGX оптимизирует ИИ для расширяющейся экосистемы программных решений. Сюда относятся приложения для видеоаналитики, идеально подходящие для крупных розничных сетей и умных городов, от таких поставщиков, как AnyVision, DeepVision, IronYun и Malong Technologies, а также приложения здравоохранения от 12 Sigma, Infervision, Qunatib и Subtle Medical.
EGX серверы доступны у ведущих мировых поставщиков корпоративных решений ATOS, Cisco, Dell EMC, Fujitsu, Hewlett Packard Enterprise, Inspur и Lenovo, а также у крупных производителей серверов и IoT-систем Abaco, Acer, ADLINK, Advantech, ASRock Rack, ASUS, AverMedia, Cloudian, Connect Tech, Curtiss-Wright, GIGABYTE, Leetop, MiiVii, Musashi Seimitsu, QCT, Sugon, Supermicro, Tyan, WiBase и Wiwynn.