OpenAI и Broadcom создали ИИ-чип Jalapeño

OpenAI представила собственный ИИ-чип Jalapeño для запуска моделей

Компания OpenAI в сотрудничестве с Broadcom разработала собственный микрочип искусственного интеллекта под названием Jalapeño. Цель проекта — снизить зависимость от поставщиков вычислительных мощностей, в частности NVIDIA, на которых работает сервис ChatGPT. Разработка ориентирована на оптимизацию затрат и запуск больших языковых моделей. Этот шаг отражает стремление крупных игроков рынка контролировать собственную аппаратную инфраструктуру. Собственный чип позволяет снизить операционные расходы, которые напрямую влияют на конечную стоимость использования сервисов.

Основные детали события

Чип прошел полный цикл — от проектирования до готового продукта — за девять месяцев. Для полупроводниковой отрасли это нетипично короткий срок, поскольку обычно такие разработки занимают годы. В OpenAI объясняют это тесной связью программной и аппаратной частей: инженерные команды отвечали за архитектуру, а Broadcom — за производственную реализацию.

Дополнительно процесс проектирования ускоряли собственные модели искусственного интеллекта OpenAI. В результате ИИ участвовал в создании аппаратного обеспечения.

Разработчики называют Jalapeño интеллектуальным процессором. Он ориентирован на inference (инференс) — непосредственный запуск больших языковых моделей, а не их обучение. Сейчас идет финальное тестирование производительности, а технический отчет компания планирует опубликовать позже.

Контекст

Сегодня OpenAI, как и большинство компаний в сфере ИИ, зависит от графических процессоров NVIDIA (GPU), которые остаются самым дорогим и дефицитным компонентом инфраструктуры. Это напрямую формирует расходы сервисов и влияет на цены для пользователей ChatGPT.

Подобный подход к контролю аппаратной части уже используют другие крупные компании, включая Amazon (чипы Trainium) и Google (TPU). Например, Amazon рассчитывает существенно сократить расходы благодаря собственным ИИ-ускорителям.

Для Broadcom это партнерство также стратегическое: компания уже работала над кастомными чипами для Meta и усиливает позиции на рынке ASIC-решений для ИИ. В отличие от универсальных решений NVIDIA, подход Broadcom предполагает создание специализированных ускорителей под конкретные задачи. Дополнительным фактором является рост нагрузки из-за обновлений системы памяти ChatGPT, что повышает требования к вычислительным ресурсам.

Что это означает для рынка

Появление Jalapeño отражает тренд на вертикальную интеграцию крупных технологических компаний и стремление снизить зависимость от ключевых поставщиков оборудования. Использование кастомных процессоров позволяет оптимизировать затраты под собственные сценарии нагрузки, включая постоянную работу моделей в фоновом режиме.

Улучшение производительности на ватт позволяет обслуживать больше запросов без пропорционального роста затрат на инфраструктуру, что критически важно для масштабирования ИИ-сервисов. По оценкам аналитиков ETFocus, такие решения позволяют компаниям точнее оптимизировать расходы под внутренние нагрузки, включая постоянную обработку запросов в реальном времени.

На этом фоне рынки сырья также реагируют на макроэкономические изменения и структурные сдвиги в спросе и предложении технологического сектора — как в случае с последними колебаниями цен на нефть.