Содержание
Open Secure AI Alliance займётся безопасностью AI-агентов
NVIDIA объявила о запуске Open Secure AI Alliance — нового отраслевого объединения, которое будет разрабатывать и распространять открытые технологии для защиты AI-моделей, агентов и программной инфраструктуры. В число первых участников вошли Microsoft, Adobe, Cloudflare, Hugging Face, IBM, Cisco, CrowdStrike, Databricks, Dell, Salesforce, SAP, Siemens, SpaceXAI, Thinking Machines Lab и другие компании.
Зачем понадобился новый альянс
Организаторы считают, что безопасность AI нельзя сводить только к самой модели. Защищать нужно весь стек агента: идентификацию, права доступа, среду выполнения, системные ограничения, журналы действий и инструменты оценки. Открытые компоненты позволяют компаниям проверять эти механизмы, адаптировать их под собственную инфраструктуру и запускать локально без передачи чувствительных данных внешнему провайдеру.
Поводом ускорить работу стал июльский инцидент с Hugging Face. Во время расследования платформе пришлось локально использовать открытую модель GLM 5.2, чтобы проанализировать более 17 тысяч действий злоумышленников: закрытые сервисы блокировали часть запросов и не могли отличить защитников от атакующих.
Что появится на практике
NVIDIA передаёт альянсу открытые модели, веса, данные и исследования по средам управления агентами. Одним из первых проектов стал NOOA — открытый фреймворк, который помогает тестировать, отслеживать, аудировать и контролировать действия AI-агентов. Другие участники добавят инструменты для проверки личности агентов, безопасного хранения весов, подписания исправлений и поиска уязвимостей несколькими моделями.
Почему это важно бизнесу и разработчикам
Для компаний, которые внедряют AI-агентов в контент, поддержку, аналитику и внутренние процессы, альянс может дать общие стандарты и готовые компоненты безопасности. Это особенно важно там, где агент получает доступ к файлам, корпоративным данным и внешним сервисам: открытые инструменты проще проверить, встроить в существующий контур и не привязываться к одному поставщику.