Содержание
Liquid AI ускорила локальный анализ длинных документов
Liquid AI представила две открытые модели для понимания текста — LFM2.5-Encoder-230M и LFM2.5-Encoder-350M. Они рассчитаны на классификацию, извлечение данных, маршрутизацию запросов и проверку текста, поддерживают контекст до 8192 токенов и могут работать на обычном процессоре без GPU.
Что умеют новые модели
В отличие от генеративных чат-ботов, энкодеры не пишут длинные ответы, а быстро превращают текст в данные для конкретной задачи. После дообучения их можно использовать для сортировки обращений, поиска персональных данных, проверки корпоративных правил, оценки документов и фильтрации контента.
Разработчики показали готовые демо: маршрутизацию промптов по заданным категориям, проверку текста на соответствие политикам, исправление опечаток и обнаружение 40 типов персональных данных на 16 языках. Обе модели доступны на Hugging Face, а код оценки и результаты тестов опубликованы открыто.
Почему важна скорость на CPU
По данным Liquid AI, младшая модель с 230 млн параметров обрабатывает контекст на 8192 токена примерно за 28 секунд на CPU. ModernBERT-base в том же тесте потребовалось более полутора минут — разница составила около 3,7 раза. На коротких текстах преимущество меньше, но растёт вместе с длиной документа.
Это делает модели полезными там, где облачный AI слишком дорог, медленен или нежелателен из-за конфиденциальности. Договоры, обращения клиентов и внутренние документы можно анализировать локально, не отправляя исходные данные внешнему сервису. Контекст в 8192 токена соответствует примерно 13–15 страницам текста.
Кому пригодится
Для бизнеса это недорогой первый слой AI-системы: компактная модель может сортировать поток запросов и передавать большой языковой модели только сложные случаи. Разработчикам доступны два варианта: 230M для максимальной скорости и экономии ресурсов, 350M — когда важнее точность. Обе модели нужно дообучить под конкретную прикладную задачу.