Содержание
OpenRouter научил Auto Router выбирать модели по «мудрости рынка»
OpenRouter полностью обновил автоматический маршрутизатор моделей. Теперь он анализирует тип запроса и смотрит, на какие модели пользователи платформы реально тратят деньги при выполнении похожих задач. Для расчётов используется агрегированная статистика более чем по 55 трлн токенов еженедельного потребления.
Как работает новый Auto Router
Сначала быстрый классификатор относит запрос примерно к одному из 30 типов: от отладки кода и многошагового планирования до исследований, математики или поддержки клиентов. Затем система учитывает доли расходов на модели за последние семь дней и формирует список кандидатов с запасными вариантами.
Пользователь может выбрать один из пяти уровней бюджета — low, medium, high, xhigh или max. Маршрутизатор при этом соблюдает заданные ограничения по провайдерам, моделям, приватности и Zero Data Retention. В диалогах он старается сохранять выбранную модель между сообщениями, чтобы не терять кэш и не увеличивать стоимость без необходимости.
Что показали тесты
OpenRouter сравнил новый механизм со старым на задачах знаний, поиска, исследований, программирования и работы агентов. На стандартном недорогом режиме качество осталось сопоставимым или выросло в большинстве тестов, а на максимальном уровне особенно заметно улучшились результаты в кодинге и агентных сценариях. Компания отдельно предупреждает, что показатели будут меняться вместе с предпочтениями пользователей и выходом новых моделей.
Почему это полезно
Для разработчиков и бизнеса обновление снимает часть постоянной работы по сравнению моделей. Вместо ручного переключения между новинками можно отправлять запросы с идентификатором openrouter/auto, задавать ценовой уровень и получать подходящий вариант без дополнительной комиссии — оплачивается только фактически выбранная модель.
Для продуктовых команд это особенно удобно в смешанных нагрузках: дешёвая модель может обрабатывать простые обращения, а более сильная подключаться к сложным исследованиям или коду. При этом рыночный сигнал обновляется ежедневно, поэтому маршрутизатор способен подхватывать новые популярные модели в течение нескольких дней после изменения реального спроса.