Содержание
Rumble-2-Flash: открытая расшифровка речи без обязательного облачного API
Reson8 представила Rumble-2-Flash — модель распознавания речи на 500 млн параметров с открытыми весами под Apache 2.0. Разработчикам уже доступны загрузка и самостоятельный запуск через Hugging Face Transformers и vLLM. В карточке заявлены 45 языков, включая русский.
Что умеет модель
Rumble-2-Flash преобразует аудио в текст и автоматически определяет язык, если он не задан явно. Разработчик может управлять оформлением расшифровки: записывать числа цифрами или словами, сохранять слова-паразиты и оставлять либо сворачивать повторяющиеся слова. Эти параметры полезны, например, когда одной системе нужен близкий к дословному протокол, а другой — более чистый текст.
В основе — архитектура Qwen3-ASR. По сообщению авторов, модель поддерживается штатными Transformers и vLLM без отдельного ответвления среды исполнения и без trust_remote_code. В примере Transformers можно передать локальный аудиофайл, ссылку, массив NumPy или список таких входов. Для серверного сценария в карточке приведён запуск vLLM с OpenAI-совместимым интерфейсом.
Что показали измерения
В анонсе указана средняя ошибка 6,96% на многоязычном треке Open ASR Leaderboard для девяти языков и 6,6% на английском. Это показатели конкретных тестов, а не обещание такой же точности для любого языка или записи. Русского среди языков опубликованного многоязычного сравнения нет; отдельная оценка качества русской речи в нём не приведена.
На наборе AppTek из 302 часов звонков с 14 английскими акцентами авторы получили WER 7,86%. В том же сравнении NVIDIA Nemotron 3.5 Transcribe показала 7,78%, а Qwen3-ASR 1.7B — 7,4%. Таким образом, небольшая модель близка к существенно более крупному конкуренту на этом наборе, но не является безусловным лидером по точности.
Скорость зависит от оборудования и загрузки
Заявление «час аудио примерно за полсекунды» относится к пропускной способности свыше 7000 RTFx при заполненных пакетах. В карточке модели уточняется, что тесты Open ASR Leaderboard выполнялись на NVIDIA H200 с vLLM. Это не замер задержки одного запроса на обычном ноутбуке. Средний RTFx английского трека в карточке составляет 6338, а результат на отдельных наборах различается.
Практические сценарии — расшифровка записей разговоров, подготовка текста для субтитров и обработка архивов аудио на собственной инфраструктуре. Опубликованные примеры подтверждают распознавание речи, но не дают оснований приписывать открытой модели все функции коммерческой платформы Reson8, например разделение говорящих или потоковый режим её API.
Где попробовать
Веса и официальные примеры доступны в репозитории Reson8/Rumble-2-Flash на Hugging Face без закрытого списка доступа. Подписка на облачный API для самостоятельного запуска не требуется; вычислительные ресурсы предоставляет сам пользователь. Лицензия Apache 2.0 допускает коммерческое использование при соблюдении её условий. В карточке есть отдельные примеры для локальной расшифровки через Transformers и развёртывания сервера на vLLM.
Как запустить первую расшифровку
Подготовьте Python-окружение
Установите PyTorch, Transformers и Accelerate по примеру из официальной карточки. Выберите доступное вычислительное устройство для загрузки модели.
Загрузите открытую модель
В примере Transformers укажите Reson8/Rumble-2-Flash. Загрузите процессор через AutoProcessor, а модель — через AutoModelForMultimodalLM.
Передайте короткую запись
Замените демонстрационную ссылку на локальный аудиофайл. Для автоматического определения языка не задавайте language; для русского укажите Russian.
Получите и проверьте текст
Выполните генерацию и декодирование из примера карточки. Сравните расшифровку с записью, особенно имена, числа и профессиональные термины.