Содержание
OpenAI и Broadcom показали AI-чип Jalapeño для инференса LLM
OpenAI и Broadcom представили Jalapeño — первый собственный Intelligence Processor OpenAI. Это специализированный ускоритель для LLM-инференса, то есть для той части работы нейросети, где модель уже отвечает пользователю в ChatGPT, Codex, API или будущих агентных продуктах.
По словам компаний, Jalapeño проектировался не как универсальный AI-чип, а как платформа под современные и будущие языковые модели. OpenAI использовала знания о своих моделях, ядрах, serving-системах и продуктах, а Broadcom помогла с реализацией кремния, сетевыми технологиями и масштабированием до дата-центров.
Что обещают
OpenAI заявляет, что ранние тесты показывают заметно лучшую производительность на ватт по сравнению с текущими передовыми решениями. Финальные цифры компания пока не раскрывает: подробный технический отчет о производительности обещан позже.
Инженерные образцы Jalapeño уже запускают ML-нагрузки в лаборатории на целевой частоте и мощности. В релизе отдельно отмечается, что чип разрабатывался от дизайна до tape-out за девять месяцев, а собственные модели OpenAI помогали ускорять часть инженерной работы.
Зачем OpenAI свой чип
Главная причина — стоимость и доступность AI. Инференс напрямую влияет на то, насколько быстро отвечает ChatGPT, сколько шагов может сделать Codex без ожидания и насколько дешевле разработчикам будет строить продукты на API. Если OpenAI сможет оптимизировать не только модель, но и железо под нее, компания получит больше контроля над скоростью, надежностью и себестоимостью.
Это также продолжение движения OpenAI к full-stack-платформе: продукты, модели, системы обучения и теперь собственная инфраструктура. Для пользователей это может означать более стабильный доступ к мощным моделям в периоды высокого спроса, а для бизнеса — меньшую задержку и потенциально более предсказуемую цену AI-сервисов.
Когда ждать внедрения
Jalapeño — первая часть многопоколенной вычислительной платформы OpenAI и Broadcom. Развертывание планируется начать до конца 2026 года вместе с дата-центровыми партнерами, включая Microsoft и других игроков. Масштаб заявлен серьезный: компании говорят о gigawatt scale deployment в будущих поколениях платформы.