Содержание
Что меняет отложенная загрузка инструментов в Gemini API
Google 19 ноября открыла Tool Retrieval в Gemini API. Функция доступна разработчикам в предварительной версии Interactions API: модель видит каталог инструментов, но получает подробную схему параметров только для тех функций, которые понадобились в текущей задаче.
Каталог остаётся, тяжёлые схемы загружаются позже
В обычном агентном приложении определения десятков или сотен функций занимают контекст ещё до начала работы. Tool Retrieval оставляет на старте названия и краткие описания отложенных инструментов. Когда Gemini выбирает функцию, сервер находит её полную схему, добавляет в контекст и возвращает вызов с аргументами. Поиск схемы и формирование вызова происходят внутри одного API-запроса; выполнение собственной функции по-прежнему остаётся на стороне приложения.
Режим включается инструментом tool_search и флагом defer_loading у отложенных функций. Часто используемые функции можно оставить загруженными сразу. Для удалённого MCP-сервера тот же флаг откладывает загрузку всего набора предоставляемых им инструментов: описывать каждый из них вручную не требуется.
Свой реестр и права пользователей
Есть и клиентский поиск: приложение само ищет подходящие функции в своём реестре и возвращает схемы модели. Такой вариант подходит для внутренних каталогов, собственного поиска по эмбеддингам и фильтрации инструментов по правам конкретного пользователя. В отличие от серверного режима, каждый поиск добавляет обмен запросами между приложением и API. Новые функции можно предоставлять прямо по ходу разговора, например после подключения интеграции.
Экономия не гарантирована
Отдельной платы за Tool Retrieval нет, но это не бесплатный поиск. Как уточняет документация по тарификации, каждый серверный поиск вызывает дополнительный проход модели с полным текущим контекстом и загруженными схемами. Эти токены учитываются в total_tool_use_tokens и оплачиваются по входному тарифу с учётом кэширования.
Поэтому выигрыш вероятнее у большого каталога, когда запрос использует лишь несколько функций. При небольшом наборе инструментов и длинной истории разговоров поиск может, наоборот, увеличить расход. Неизменный префикс совместим с кэшированием, однако после удаления крупных схем сам запрос может стать короче минимального порога кэша.
Где попробовать
Официальные примеры Python, JavaScript и REST доступны в руководстве Tool Retrieval. Нужен доступ к Gemini API и Interactions API версии v1beta. Это preview: интерфейс может измениться до общего выпуска. Применяются стандартные тарифы выбранной поддерживаемой модели, а не отдельная фиксированная цена функции.
Как проверить Tool Retrieval на своём агенте
Выберите небольшой тестовый сценарий
Возьмите задачу с известным результатом и подготовьте тестовые функции без реальных списаний или изменений данных.
Настройте Interactions API
Используйте актуальный SDK или REST версии v1beta, поддерживаемую модель и пример серверного поиска из официальной документации.
Отложите редко используемые функции
Добавьте tool_search, задайте defer_loading для выбранных функций и проверьте поисковые шаги и сформированный вызов в interaction.steps.
Сравните полный расход
Сопоставьте сценарий с обычной загрузкой схем: учитывайте total_input_tokens, total_tool_use_tokens и total_cached_tokens, а не только размер первого запроса.