Содержание
Как AI-отчёты превратились из помощи в помеху для кибербезопасности
Генеративный AI резко ускорил поиск уязвимостей, но вместе с полезными находками принёс новый тип спама. Программа bug bounty Apple оказалась перегружена низкокачественными отчётами о несуществующих проблемах — и это уже начало мешать обработке реальных угроз.
AI-слоп перекрыл путь настоящему отчёту
По данным The Decoder со ссылкой на расследование Financial Times, Apple ограничила число заявок, которые один исследователь может отправить в программу вознаграждений. Причиной стал поток автоматически созданных отчётов: многие из них описывали галлюцинированные уязвимости и отнимали время у специалистов по проверке.
Итальянский стартап Bynario при помощи ChatGPT обнаружил серьёзную уязвимость macOS, потенциально позволявшую злоумышленнику получить полный контроль над компьютером. Но отправить находку через обычный канал компания не смогла — доступ к новым заявкам уже был закрыт из-за лимита. Глава Bynario Альфредо Пезоли оценил стоимость такой уязвимости на чёрном рынке в 100–200 тысяч долларов. Позднее Apple всё же связалась с исследователями.
Масштабирование поиска создало новый фильтр
Проблема не в самом использовании AI, а в резком падении стоимости создания отчёта. Теперь сгенерировать убедительно звучащее описание бага можно за минуты, тогда как проверка по-прежнему требует ручной работы и доступа к реальной инфраструктуре. В результате узким местом становится не поиск, а верификация.
При этом Apple сама использует модели Anthropic и OpenAI для поиска проблем безопасности. По информации источника, в последних обновлениях компания исправила примерно в пять раз больше уязвимостей, чем обычно. AI одновременно расширяет возможности защитников и создаёт шум, который может скрывать важные сигналы.
Почему это важно для команд и бизнеса
История показывает, что автоматизация без контроля качества может ухудшить даже полезный процесс. Компаниям, принимающим отчёты от AI-агентов, понадобятся доказательства воспроизводимости, автоматическая проверка окружения, репутационные фильтры и отдельные каналы для подтверждённых критических находок. Иначе дешёвый поток генераций будет вытеснять редкие, но действительно опасные сообщения.