Компанія OpenAI у співпраці з Broadcom розробила власний мікрочип штучного інтелекту під назвою Jalapeño. Мета проєкту — зменшити залежність від постачальників обчислювальних потужностей, зокрема NVIDIA, які забезпечують роботу сервісу ChatGPT. Розробка орієнтована на оптимізацію витрат і запуск великих мовних моделей. Подія підкреслює прагнення великих гравців ринку контролювати власну апаратну інфраструктуру. Власний процесор дозволяє знизити операційні витрати, що безпосередньо впливають на кінцеву вартість користування сервісами.
OpenAI представила власний ШІ-чип Jalapeño для запуску моделей
Основні деталі події
Чип пройшов повний цикл — від проєктування до готового продукту — за дев’ять місяців. Для напівпровідникової галузі це нетипово короткий термін, оскільки зазвичай такі розробки займають роки. У OpenAI пояснюють це тісною взаємодією програмної та апаратної частин: інженерні команди відповідали за архітектуру, а Broadcom — за виробничу реалізацію.
Додатково процес проєктування прискорювали власні моделі штучного інтелекту OpenAI. У результаті ШІ використовувався в процесі створення апаратного забезпечення.
Розробники називають Jalapeño інтелектуальним процесором. Він орієнтований на inference — безпосередній запуск великих мовних моделей, а не їх навчання. Наразі триває фінальне тестування продуктивності, а технічний звіт компанія планує оприлюднити пізніше.
Контекст
Сьогодні OpenAI, як і більшість компаній у сфері ШІ, залежить від графічних процесорів NVIDIA, які залишаються найдорожчим і найбільш дефіцитним компонентом інфраструктури. Це безпосередньо формує витрати сервісів і впливає на ціни для користувачів ChatGPT.
Подібний підхід до контролю апаратної частини вже використовують інші великі компанії, зокрема Amazon (чіпи Trainium) та Google (TPU). Наприклад, Amazon розраховує суттєво скоротити витрати завдяки власним ШІ-прискорювачам.
Для Broadcom це партнерство також стратегічне: компанія вже працювала над кастомними чіпами для Meta і посилює позиції на ринку ASIC-рішень для ШІ. На відміну від універсальних рішень NVIDIA, підхід Broadcom передбачає створення спеціалізованих прискорювачів під конкретні задачі. Додатковим інфраструктурним фактором є зростання навантаження через оновлення систем пам’яті ChatGPT, що підвищує вимоги до обчислювальних ресурсів.
Що це означає для ринку
Поява Jalapeño відображає тренд на вертикальну інтеграцію великих технологічних компаній і прагнення зменшити залежність від ключових постачальників обладнання. Використання кастомних процесорів дозволяє оптимізувати витрати під власні сценарії навантаження, зокрема постійну роботу моделей у фоновому режимі.
Покращення продуктивності на ват дає змогу обслуговувати більше запитів без пропорційного зростання витрат на інфраструктуру, що є критичним для масштабування ШІ-сервісів. За оцінками аналітиків ETFocus, такі рішення дозволяють компаніям точніше оптимізувати витрати під внутрішні навантаження, включно з постійною обробкою запитів у реальному часі.
На цьому тлі ринки сировини також реагують на макроекономічні зміни та структурні зсуви у попиті й пропозиції технологічного сектору — як у випадку з останніми коливаннями цін на нафту.