Содержание
Два новых типа конфигурации для AI-приложений
19 ноября AWS добавила в AppConfig два специализированных типа конфигурации: для вызовов AI-моделей и для промптов. Они уже доступны во всех регионах, где работает AppConfig, без дополнительной платы за новую возможность. Это обновление для разработчиков AI-приложений, а не отдельный чат-бот.
Что можно менять без нового релиза
Профиль AI model invocation хранит идентификатор модели, параметры генерации — например, температуру и максимальное число токенов, — а также системные сообщения, примеры диалога и специфичные для провайдера параметры. Вместо жёстко заданных значений в коде приложение получает развёрнутую конфигурацию через AppConfig Agent.
Второй профиль, AI prompt, хранит промпт как отдельный версионируемый объект. Команда может выпускать новую формулировку задания независимо от настроек модели и переиспользовать её в нескольких приложениях. Это разделяет два разных изменения: выбор модели и изменение инструкции для неё.
Проверка на части нагрузки и автоматический возврат
Оба типа используют штатные механизмы развёртывания AppConfig. Изменение можно распространять постепенно: например, сначала на 10%, затем на 20% и 30% нагрузки, отслеживая эксплуатационные показатели, пользовательский опыт и расход токенов.
Если во время развёртывания срабатывает настроенный сигнал Amazon CloudWatch либо интегрированной системы наблюдаемости, включая Datadog и New Relic, AppConfig может автоматически вернуть прежнюю конфигурацию. Это не гарантия качества ответов: откат зависит от выбранных метрик, порогов и подключённого мониторинга.
Граница возможностей сервиса
AppConfig хранит, проверяет и доставляет настройки, но не вызывает AI-провайдера от имени приложения. Сопоставление общих полей с форматом запроса конкретного API остаётся в коде разработчика. Поэтому обновление не превращает сервис в универсальный маршрутизатор моделей и не устраняет первоначальную интеграцию.
Практический сценарий — замена версии модели или настройка генерации в уже подключённом приложении без отдельного развёртывания его кода. Отсутствие доплаты за новые типы профилей не означает бесплатную работу AppConfig или бесплатные запросы к моделям.
Где попробовать
Функция доступна пользователям AWS в консоли AppConfig. Нужны аккаунт AWS и права на соответствующие ресурсы. Официальная документация описывает создание профиля вызова модели и отдельного профиля промпта через консоль и командную строку.
Как подключить новые профили
Подготовьте приложение AppConfig
В консоли AWS откройте AppConfig и создайте приложение или выберите существующее. Проверьте права доступа и нужное окружение.
Создайте профиль вызова модели
Нажмите Create и выберите AI model invocation configuration profile. Укажите модель и параметры генерации, затем сохраните первую версию.
Отделите промпт при необходимости
Создайте AI prompt configuration profile, введите текст инструкции и сохраните его как самостоятельную версию.
Подключите получение конфигурации
Настройте AppConfig Agent и чтение его локального HTTP-интерфейса в приложении. Преобразуйте полученные поля в запрос к API вашего AI-провайдера.
Запустите контролируемое развёртывание
Выберите постепенную стратегию и подключите сигналы мониторинга. Проверьте поведение приложения на ограниченной нагрузке до полного распространения.