Содержание
Что Google обнаружила в реальных инцидентах
Google Threat Intelligence Group и Mandiant опубликовали новый отчёт об использовании ИИ злоумышленниками. Главное наблюдение — в прошедшем квартале исследователи впервые выявили участников атак, которые с помощью языковых моделей полностью автоматизировали цепочку поиска уязвимостей и их эксплуатации без человека в цикле. Это отчёт о реальной активности, а не анонс общедоступного защитного продукта.
От чтения исправлений к автоматическому запуску атак
В полном отчёте GTIG описан обнаруженный сервер с многоагентной системой exploit_agent. Она подключалась к нескольким облачным и локальным языковым моделям, непрерывно сравнивала код популярных веб-приложений до и после исправлений, определяла потенциальные уязвимости, готовила эксплойты и автоматически запускала их.
На том же сервере исследователи нашли похищенные данные жертв и скрипты для действий после проникновения. По телеметрии GTIG, оператора особенно интересовали французские сайты медиа, развлекательной индустрии и образования. Эти наблюдения относятся к конкретной обнаруженной инфраструктуре и не означают, что все кибератаки уже стали полностью автономными.
В центре такого конвейера часто находятся n-day-уязвимости — уже известные ошибки, для которых исправление опубликовано, но установлено не у всех. Анализ ограниченного набора изменений проще широкого поиска неизвестной ошибки: злоумышленник получает подсказку из самого патча. Автоматизация сокращает промежуток между раскрытием проблемы и появлением работающей атаки.
Несколько агентов вместо одного чат-бота
GTIG отдельно сообщает о применении многоагентных инструментов в живых вторжениях. Исследователи независимо наблюдали CAIRN и PentAGI, а также эксперименты с другими фреймворками. Общая схема — специализированные агенты получают результат предыдущего действия и корректируют следующий этап, а не просто выдают текстовую рекомендацию оператору.
При этом базовые пути проникновения остаются знакомыми: скомпрометированные учётные данные и неисправленные системы. Меняются прежде всего скорость и масштаб выполнения цепочек. Поэтому отчёт не доказывает, что языковые модели повсеместно находят неизвестные уязвимости или надёжно обходят любую защиту.
Ограничения и цена автономности
Ускорение пока сопровождается потерей скрытности. По оценке GTIG, неограниченное автономное выполнение создаёт заметный сетевой трафик, использует узнаваемые идентификаторы и оставляет характерные следы в коде. Это облегчает обнаружение, хотя не исключает успешного проникновения.
Ещё одна оговорка — рост числа заявленных, но неработающих эксплойтов, вероятно созданных с помощью LLM. Сам факт публикации такого кода не подтверждает работоспособность атаки. Авторы отдельно различают наблюдения в реальных инцидентах и прогнозы дальнейшего развития агентных инструментов.
Отчёт основан на расследованиях Mandiant, отслеживании группировок и данных защиты платформ. Краткий анонс Google от 16 ноября связывает эти результаты с развитием автоматизированной защиты. Однако сама публикация отчёта не означает открытия доступа к описанной в нём защитной инфраструктуре.