Компания NVIDIA продолжает оптимизировать свои решения под разные задачи и приложения, связанные с ИИ. По мере развития технологий искусственного интеллекта возрастает важность локального запуска генеративного ИИ. Локальный инференс сокращает задержки при обработке запросов и обеспечивает лучший контроль над пользовательскими данными. Видеокарты GeForce RTX оснащены тензорными ядрами, которые могут ускорять вычисления ИИ. И теперь это ускорение доступно для сервиса генерации видео Stable Video Diffusion.
NVIDIA объявила о выходе расширения TensorRT (программный стек для ускорения генеративных ИИ) с оптимизациями под Stable Video Diffusion. Добавлена поддержка инструментов ControlNets, которые используются для коррекции данных модели диффузии при добавлении дополнительных параметров. Генерация видео с оптимизациями под видеокарту GeForce RTX происходит в среднем на 40% быстрее.
Упоминается, что в специализированной тесте UL Procyon AI Image Generation генерация происходит на 50% быстрее для GeForce RTX 4080 Super.
Ранее уже добавлена RTX-оптимизация для DaVinci Resolve и сервисов Photo AI и Video AI от Topaz Labs.
Источник: NVIDIA