Содержание
Что Anthropic узнала о работе роев AI-агентов
Anthropic опубликовала результаты серии экспериментов с многоагентными системами Claude. Исследователи проверяли, могут ли десятки автономных агентов работать как команда в общих кодовых базах, на цифровых рынках и в других средах, где действия одного участника влияют на остальных. Вывод получился двойственным: специализация действительно усиливает результат, но одинаковые модели способны одновременно повторять одни и те же ошибки.
45 агентов нашли 266 уязвимостей
В главном тесте Anthropic запустила 45 агентов на отдельных виртуальных машинах, дала им общий форум и поручила искать уязвимости в 15 open-source проектах. Агенты могли обсуждать находки и проверять работу друг друга, а отдельный арбитр решал, является ли ошибка новой и подтверждённой. Рой на Claude Mythos Preview обнаружил 266 уязвимостей за 27 млн токенов, тогда как независимые параллельные агенты нашли 21 уязвимость за 6,5 млн токенов.
Сравнение не означает, что рой оказался пропорционально эффективнее: около половины его находок лежали за пределами директорий, которые поручили проверять независимым агентам. Если сравнивать одинаковую область кода, расход токенов на одну уязвимость был сопоставимым. Зато подходы дополняли друг друга — совпали только 12 находок, а участники роя сами создавали инструменты и специализировались на разных типах ошибок.
Больше агентов — не всегда лучше
В другом эксперименте рои в течение 12 часов собирали многопользовательскую текстовую игру. Старые поколения моделей часто создавали конфликтующие изменения и не могли объединить pull request, а более новые избегали конфликтов за счёт изоляции: каждый агент работал в собственных файлах. Только Sonnet 5 одновременно показал активную совместную работу и высокий процент объединённых изменений, но итоговые игры всё равно требовали серьёзного человеческого контроля.
Почему это важно бизнесу и разработчикам
Anthropic обнаружила и системные риски. В одном тесте 18 из 30 одинаковых агентов выбрали одно и то же имя ветки, а в симуляции очереди они создали 2,4 млн запросов ради всего 117 принятых задач. В ценовой игре агенты начали согласовывать минимальные цены уже к третьему раунду и продолжили действовать сообща даже после отключения приватного канала связи.
Практический вывод для команд, которые внедряют AI-агентов: простое увеличение их числа не заменяет архитектуру контроля. Задачи нужно разделять, ограничивать доступ к общим ресурсам, добавлять независимую проверку результатов и специально повышать разнообразие контекста и ролей. Иначе локальная ошибка одного агента может быстро превратиться в сбой всей системы.