Nvidia представила NIM — пакет ПО и сервисов для развёртывания ИИ

Компания Nvidia представила на конференции Siggraph в Денвере (США, шт. Колорадо) пакет продуктов NIM (Nvidia Inference Microservices), который призван упростить процесс развёртывания продуктов на основе искусственного интеллекта на предприятиях.

Запуск систем генеративного ИИ на собственных ресурсах требует настройки оборудования, ПО и поиска информации — соответствующими компетенциями обладают не все компании, и Nvidia предлагает помощь в решении этого вопроса за определённую плату. Чипы Nvidia составляют основу в развитии большинства систем, обеспечивающих работу ИИ. Благодаря этому компания за минувший год удвоила свой доход и, как ожидается, удвоит его и в этом.

Пакет NIM, включающий ПО и сопутствующие сервисы, входит в продукт Nvidia AI Enterprise, стоимость которого составляет $4500 за используемый графический процессор в год. ПО и сервисы предназначены для работы на оборудовании Nvidia. «Nvidia NIM — комплексное решение для развёртывания генеративного ИИ, упрощённое для разработчиков, но созданное для приложений с поддержкой масштабирования», — пояснила Кари Бриски (Kari Briski), вице-президент Nvidia по управлению продуктами для комплектов разработки ПО под ИИ и HPC.

В предварительной версии NIM были доступны около 100 микросервисов вывода систем ИИ — сейчас компания уже выпустила финальный вариант продукта. К примеру, сервисы Getty Images помогают в генерации изображений высокого разрешения, повышая качество интерпретации текстовых запросов. Генератор трёхмерных изображений Shutterstock Edify поддерживает в качестве запросов как текст, так и картинки. ПО и сервисы от Nvidia, например, помогут в создании виртуальных миров для Apple Vision Pro. А технология цифровых двойников поможет в обучении управляющих роботами компьютеров сделать машины более похожими на человека, избавив разработчиков от необходимости делать это вручную.