НовостьНейросетиОткрытые моделиAI-агенты

Tether открыла BotPsy — AI-модель на 0,8 млрд параметров для локальных агентов

Tether AI Research представила BotPsy — небольшую модель для вызова инструментов и многошаговых задач. Веса уже доступны на Hugging Face: есть safetensors и GGUF, включая вариант размером около 0,53 ГБ. Разбираем результаты тестов и ограничения локального запуска.

Ирина Видяшкина

12.11.2026 · 4 минут чтения · Нейросети

Tether Qvac Botpsy on Device Agent 0 8b Cover

Содержание

Что умеет BotPsy и что именно доступно для локального запуска

11 ноября Tether AI Research представила BotPsy — текстовую модель примерно на 0,8 млрд параметров для вызова функций и агентных сценариев. Разработчики уже могут скачать открытые веса на Hugging Face: доступны исходный формат safetensors и GGUF для локального выполнения через llama.cpp и QVAC SDK. Лицензия — Apache 2.0.

В основе BotPsy лежит Qwen3.5-0.8B. Вместо наращивания размера команда дообучила её на работе с инструментами: от одиночного вызова функции до последовательности действий в диалоге. Среди исследуемых сценариев — файлы, календарь, настройки устройств и поиск. Это специализация на сравнительно простых и средних задачах, а не попытка заменить облачные флагманские модели во всех областях.

Что показали тесты разработчика

В опубликованной оценке BotPsy получила 44,0 балла на BFCL v4 против 23,4 у базовой Qwen3.5-0.8B-Think. На ToolSandbox результат вырос с 30,5 до 64,6. На пяти из шести агентных тестов модель также обошла Qwen3.5-2B-Think, которая примерно в 2,5 раза больше. Но на Claw-Eval преимущество осталось у модели на 2 млрд параметров: 48,9 против 46,5.

Все модели сравнивали в режиме рассуждений в общей тестовой среде. Это результаты команды Tether, а не независимое подтверждение превосходства над всеми небольшими моделями. Рост баллов на отдельных тестах не означает двукратного улучшения любой реальной задачи.

Специализация заметна и по слабым местам. На BrowseComp-Plus, проверяющем сложный поиск, BotPsy набрала лишь 4,5 балла — лучший результат в этой небольшой группе, но низкий в абсолютном выражении. В тестах общих знаний более крупная Qwen3.5-2B-Think существенно сильнее.

Файлы от 0,53 ГБ — это не полный расход памяти

В официальном GGUF-репозитории есть три варианта: BF16 размером около 1,52 ГБ, Q8_0 — 0,81 ГБ и Q4_K_M с калибровкой — 0,53 ГБ. Эти числа относятся к файлам весов. Во время работы дополнительную память занимают контекст и среда выполнения, поэтому обещания запуска в 530 МБ оперативной памяти из них не следуют.

Авторы проверяли GGUF через llama.cpp на NVIDIA H100. Публикация описывает пригодность модели для локального развёртывания, но не даёт универсальной скорости работы на любом телефоне или ноутбуке. Фактическая задержка зависит от устройства, выбранной точности и длины рассуждений.

Язык и надёжность остаются ограничениями

Модель преимущественно обучали и тестировали на английском; именно его авторы рекомендуют для работы. В многоязычном тесте русский и хинди оказались заметно слабее большинства остальных проверенных языков. При накоплении инструкций в длинном диалоге качество также снижается.

Защита от вредных запросов и чужих инструкций не абсолютна. По автоматическим тестам команды доля небезопасных ответов составила 21%, а при атаках через внедрение инструкций — 31%. Разработчик прямо исключает использование модели для критически важных автоматических решений и чувствительных задач, связанных с деньгами, здоровьем и персональными данными.

Где попробовать

Веса BF16 и примеры для Transformers и vLLM размещены в карточке BotPsy-0.8B. Для llama.cpp и QVAC SDK опубликованы GGUF-файлы и примеры локального запуска. Репозитории публичные, без предварительного одобрения доступа; локальное выполнение требует совместимого программного окружения.

Для встраивания в приложение есть официальный QVAC SDK. Это путь для разработчиков: доступность весов сама по себе не означает появления готового персонального ассистента со всеми подключёнными сервисами.

Источник: официальный разбор BotPsy от Tether AI Research на Hugging Face.

Первый тест BotPsy с локальным вызовом функции

Скачайте GGUF из официального репозитория

Откройте qvac/BotPsy-0.8B-GGUFs на Hugging Face и загрузите botpsy-0.8b-q8_0.gguf. Этот файл используется в основном примере запуска авторов.

Запустите совместимую версию llama.cpp

Используйте пример llama-server из раздела Usage карточки GGUF. В нём включены обработка шаблона через --jinja и режим рассуждений через enable_thinking: true. Остальные параметры генерации также приведены в примере.

Повторите демонстрационный запрос

Отправьте на локальный /v1/chat/completions пример из карточки: описание функции create_event и просьбу добавить приём к стоматологу. Для первого теста достаточно получить ответ модели, не подключая реальный календарь.

Проверьте структуру результата

В ответе должны быть рассуждения в reasoning_content и вызов функции в tool_calls. Сверьте имя функции и её аргументы с запросом. Реальное выполнение функции реализуется отдельно в вашем приложении.

Вопросы о локальном использовании BotPsy

Нет. Карточка модели прямо указывает, что код обучения и обучающие данные не входят в этот выпуск. Открыты веса; описание обучения и использованных наборов данных опубликовано отдельно.

Хочешь узнавать первым о таких новостях?

Переходи в наш телеграм канал где мы ежедневно публикуем самые свежие и интересные новости

Хочешь узнавать первым о таких новостях?

Переходи в наш телеграм канал где мы ежедневно публикуем самые свежие и интересные новости

Чиби Новости