Содержание
AMD и Cerebras разделили AI-инференс между двумя архитектурами
AMD и Cerebras объявили о совместной инфраструктуре для запуска нейросетей. Вместо того чтобы выполнять весь запрос на одном типе ускорителей, система разделяет работу между AMD Helios и Wafer-Scale Engine от Cerebras.
Как будет работать новая система
AMD Helios возьмёт на себя обработку промптов, больших контекстных окон и множества параллельных запросов. После этого Cerebras будет выполнять декодирование — этап, на котором модель последовательно генерирует токены ответа. Компании рассчитывают совместить высокую пропускную способность AMD с низкой задержкой Cerebras.
По заявлению партнёров, такая схема может обеспечить до пяти раз больше токенов в секунду на ватт. Это особенно важно для кодинг-ассистентов, голосовых сервисов и автономных AI-агентов: в этих сценариях скорость появления каждого следующего токена напрямую влияет на удобство работы.
Что это изменит для пользователей и бизнеса
Если заявленные показатели подтвердятся, облачные провайдеры смогут быстрее обслуживать сложные агентные задачи и тратить меньше энергии на генерацию ответа. Для разработчиков это потенциально означает более отзывчивых агентов и снижение стоимости инференса, хотя конкретные цены пока не раскрыты.
Cerebras планирует установить системы AMD Helios в своих дата-центрах. Первой совместная платформа должна появиться в Cerebras Cloud во второй половине 2026 года.
Важная оговорка
Показатель пятикратного роста энергоэффективности пока является прогнозом AMD и Cerebras: независимых тестов готового решения ещё нет. Практический эффект можно будет оценить после запуска облачного сервиса.