Nvidia готовится представить новый процессор, предназначенный для ускорения инференса — этапа запуска обученных моделей искусственного интеллекта. Этот шаг направлен на удовлетворение потребностей таких клиентов, как OpenAI, в создании более быстрых и эффективных приложений на основе ИИ. Ранее продукция Nvidia в основном фокусировалась на задачах обучения моделей.
Новая платформа будет представлена на конференции для разработчиков Nvidia GTC, которая состоится в марте. Основой системы станет чип, разработанный стартапом Groq. Этот выбор подчеркивает стремление Nvidia укрепить свои позиции в сегменте инференса, который становится всё более конкурентным.
Конкуренция на этом рынке активизируется: Google и Amazon уже представили собственные ускорители, способные конкурировать с продукцией Nvidia. Дополнительное давление оказывают технологии вайб-кодинга — системы ИИ, которые могут писать программный код по текстовым запросам пользователей.
Один из крупнейших клиентов на новый процессор уже согласился использовать продукцию Nvidia — это OpenAI. Компания, стоящая за разработкой ChatGPT, недавно объявила о приобретении «выделенных мощностей для инференса» у Nvidia и о получении инвестиций в размере $30 млрд от производителя. Кроме того, OpenAI заключила соглашение с Amazon на использование ИИ-ускорителей Trainium.
Nvidia доминирует на рынке графических процессоров (GPU), которые могут выполнять миллиарды простых задач одновременно. По оценкам аналитиков, доля компании на мировом рынке GPU для обучения ИИ составляет не менее 90 %. Однако разработчики начинают замечать, что чипы Nvidia, несмотря на их высокую производительность, могут быть слишком дорогими и энергозатратными для задач инференса.
В январе OpenAI заключила соглашение с стартапом Cerebras о партнёрстве. Компания предложила чип, ориентированный на инференс, который, по её утверждению, работает быстрее ускорителей Nvidia. Переговоры между OpenAI и Cerebras начались ещё осенью прошлого года, когда инженеры компании искали более производительное оборудование для приложений агентного написания кода.
В минувшем году Nvidia заключила сделку с Groq на сумму $20 млрд. В рамках этой сделки Nvidia лицензировала технологии Groq и приняла на работу её топ-менеджеров, включая основателя компании. Чипы Groq основаны на уникальной архитектуре с «блоками языковой обработки», обеспечивающими высокую эффективность в задачах инференса.
Одним из наиболее востребованных направлений в сфере ИИ является генерация программного кода. Лидирующие позиции здесь занимают сервисы, такие как Anthropic Claude Code и OpenAI Codex, которые будут работать на новой инфраструктуре Nvidia. Кроме того, компания заключила соглашение с Meta об инференсе ИИ-систем для таргетирования рекламы — задача, которая эффективно решается на центральных процессорах.
*Компания Meta Признана экстремистской организацией и запрещена в РФ