OpenAI показала первые результаты своего чипа Jalapeño

OpenAI впервые раскрыла подробные результаты тестирования собственного ИИ-чипа Jalapeño и заявила о заметном преимуществе перед ускорителями NVIDIA в задачах инференса. В зависимости от модели новый чип выполнял в 1,5-1,9 раза больше работы на единицу мощности, снижал сквозную задержку в 1,7-3,6 раза, а в интерактивных сценариях обеспечивал в 2,1-4,1 раза более высокую производительность.

Испытания проводились на публичном бенчмарке InferenceX с тремя крупными моделями: GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 1T. Для GPT-OSS 120B Jalapeño сравнивали с NVIDIA GB200, а для двух других моделей - с более мощным GB300. При этом номинальная мощность самого Jalapeño составляет 700 Вт против 1200 Вт у GB200 и 1400 Вт у GB300.

На GPT-OSS 120B чип OpenAI достигал 1459 токенов в секунду на пользователя против 535 у GB200. Сквозная задержка составила 1,03 секунды против 1,8 секунды у NVIDIA. На DeepSeek R1 преимущество по задержке оказалось ещё заметнее: 1,65 секунды против 5,99 секунды, то есть примерно в 3,6 раза меньше.

Особенно интересным оказался показатель эффективности в режиме, ориентированном на минимальную задержку. В одном из тестов GPT-OSS 120B Jalapeño обеспечил примерно в 53,7 раза больше производительности на киловатт при сопоставимом с GB200 времени отклика. Однако это не означает, что весь дата-центр будет в 53 раза эффективнее: показатель учитывает именно конкретную конфигурацию и условия теста.

Ставка OpenAI сделана не только на сам процессор. Jalapeño проектировали одновременно с памятью, сетевой инфраструктурой и программным обеспечением для инференса. Такой подход позволяет оптимизировать передачу данных между компонентами и уменьшать задержки на каждом этапе обработки запроса. Чип создавался совместно с Broadcom и Celestica, а от проектирования до tapeout команда дошла всего за девять месяцев.

При этом OpenAI использовала собственные ИИ-модели и при разработке железа. Компания заявляет, что более ранние модели помогали создавать и запускать Jalapeño, а новые системы ускорили программную оптимизацию и адаптацию моделей под чип.

Важное ограничение заключается в том, что Jalapeño предназначен исключительно для инференса - то есть для выполнения уже обученных моделей. Для обучения крупных ИИ-систем OpenAI по-прежнему будет использовать ускорители NVIDIA и других производителей. Кроме того, компания пока не собирается продавать Jalapeño сторонним клиентам.

Первое развёртывание Jalapeño запланировано до конца 2026 года, после чего OpenAI намерена значительно нарастить его использование в 2027-м. Компания уже работает над следующими поколениями чипа и планирует масштабировать платформу до гига-ваттного уровня совместно с партнёрами по дата-центрам.

Для NVIDIA появление Jalapeño пока не означает потерю крупнейшего клиента. OpenAI продолжит закупать и использовать её ускорители. Но сама стратегия меняется: вместо полной зависимости от одного поставщика компания получает возможность выбирать железо под конкретную задачу - дорогие универсальные ускорители для обучения и специализированные чипы для массового инференса.

Это особенно важно на фоне стремительного роста потребления ИИ. Чем больше запросов обрабатывают ChatGPT, API и ИИ-агенты, тем существеннее становятся не только вычислительная мощность, но и стоимость каждого ответа, энергопотребление и задержка. Поэтому даже частичный переход OpenAI на собственные ускорители способен изменить экономику её инфраструктуры и усилить конкуренцию вокруг NVIDIA.