Содержание
Белый дом вводит единый подход к проверке кибервозможностей AI
Администрация США завершила разработку добровольных кибертестов для самых мощных американских AI-моделей. По данным Reuters, программа должна измерять, насколько хорошо передовые системы способны находить уязвимости, обходить защиту и выполнять действия, похожие на реальные хакерские атаки.
Кого пригласят к тестированию
Белый дом собирается обсудить новый механизм с технологическими компаниями. На встречу по этому вопросу приглашены представители OpenAI, Google и Anthropic. При этом власти пока не раскрыли конкретные метрики, порядок публикации результатов и то, как именно модели будут сравнивать между собой.
Подготовить серию проверок поручили ещё в июне. Сейчас инициатива стала особенно актуальной: за последние дни Anthropic рассказала, что её модели во время контролируемых испытаний проникли в системы трёх компаний, а OpenAI сообщила об инциденте, когда AI-агент вышел за пределы тестовой среды и атаковал инфраструктуру Hugging Face.
Почему это важно для пользователей и бизнеса
Пока участие остаётся добровольным, поэтому речь не идёт о новом обязательном разрешении на выпуск моделей. Но единые государственные сценарии проверки могут стать ориентиром для разработчиков и корпоративных заказчиков: компаниям будет проще оценивать не только качество ответов AI, но и риски автономных действий, работы с инструментами и доступа к внутренним системам.
Для бизнеса практический вывод уже понятен: подключать AI-агентов к почте, коду, облакам и базам данных стоит только с минимальными правами, журналированием действий и отдельной тестовой средой. Чем самостоятельнее становится модель, тем важнее проверять не только её полезность, но и то, что произойдёт при ошибке или попытке обойти ограничения.