Словарь ИИ

Что такое Nvidia

Коротко

Nvidia это американская компания, которая производит видеокарты и вычислительные системы для обучения и работы нейросетей и развивает программную платформу CUDA.

Компании · Nvidia

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Представь, что нужно раскрасить огромную картину из миллиона клеточек. Один художник провозится месяц, а тысяча художников с маленькими кисточками справятся за вечер. Видеокарта похожа на такую команду: в ней много маленьких вычислителей, которые считают одновременно. Эта компания делает такие команды для компьютеров, и на них учатся нейросети.

Простыми словами

Компания начинала с видеокарт для игр, а теперь ее чипы широко используют для искусственного интеллекта. Нейросеть учится и отвечает за счет огромного числа однотипных вычислений, и видеокарта выполняет их параллельно, намного быстрее обычного процессора. Nvidia продает отдельные видеокарты, серверы и целые системы для дата-центров, которые называет фабриками ИИ. Программы для этих чипов пишут через платформу CUDA. Например, локальная языковая модель в офисе обычно работает на одной или нескольких таких видеокартах.

Для бизнеса

Для компании Nvidia важна в двух ролях. Первая: железо для своего ИИ. Если модель должна работать внутри контура, нужен сервер с видеокартами, и от объема их памяти зависит, какая модель поместится. Вторая: открытые модели Nemotron, которые Nvidia публикует вместе с весами и обучающими данными под лицензией, разрешающей коммерческое применение и запуск в собственной инфраструктуре. С Россией ситуация другая: в марте 2022 года компания остановила поставки в страну, а в октябре 2022 года объявила о прекращении всей деятельности здесь. Поэтому условия сервисной поддержки оборудования уточняют до покупки, а конфигурацию сервера считают под конкретные модели.

Для специалиста

Nvidia основана в 1993 году; сооснователь Дженсен Хуанг остается президентом и генеральным директором. Техническая основа ее места в ИИ это связка GPU и CUDA: по определению компании, CUDA служит платформой ускоренных вычислений и программным слоем, через который приложения используют GPU. В CUDA Toolkit входят компилятор, библиотеки и инструменты разработчика, код пишут на C++, Python или Fortran либо берут готовые ускоренные библиотеки и фреймворки. Для дата-центров компания выпускает системы, которые называет фабриками ИИ (AI factories). Семейство Nemotron покрывает рассуждения, зрение, речь, поиск и безопасность; модели распространяются под NVIDIA Open Model License, а в виде микросервисов NIM требуют лицензии NVIDIA AI Enterprise.

Пример

Компания решила запустить языковую модель для работы с договорами у себя. Инженеры подбирают сервер с видеокартами, у которых хватит памяти под выбранную модель, и проверяют, что ответ приходит за пару секунд.

Связанные термины

Вопросы и ответы

Почему видеокарты Nvidia нужны для нейросетей?

Обучение и работа нейросети сводятся к огромному числу одинаковых операций с числами. Видеокарта выполняет тысячи таких операций одновременно, а платформа CUDA дает программам удобный доступ к этим вычислениям.

Работает ли Nvidia в России?

Нет. В марте 2022 года компания остановила поставки в Россию, а в октябре 2022 года объявила о прекращении всей деятельности в стране.

Источники

Где это применяют в компании

Видеокарты для ИИ: модели и цены в России

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений