Cisco открыла бесплатную базу происхождения почти 900 открытых AI-моделей

Cisco запустила бесплатный публичный сервис AI Supply Chain Provenance Explorer для проверки открытых нейросетей. В базе уже почти 900 моделей: для каждой можно посмотреть разработчика, страну, лицензионные ограничения, связи с базовыми моделями и количество проверенных файлов.

Происхождение модели проверяют по её весам

Главное отличие сервиса от обычной страницы репозитория — он не полагается только на тег base_model, который автор указывает вручную. Инструменты Cisco сравнивают архитектуру и несколько характеристик весов модели, чтобы подтвердить, от какого семейства она произошла. Компания заявляет точность 96,4% на собственном тестовом наборе.

Такой анализ помогает заметить скрытую связь с исходной моделью после дообучения или других изменений. В карточках также отображаются лицензионные условия и результаты проверки файлов на вредоносный код — это особенно полезно перед запуском скачанной модели в рабочей инфраструктуре.

Зачем это разработчикам и бизнесу

Если в базовой модели обнаружат уязвимость, команда сможет быстрее понять, какие производные модели тоже требуют проверки. Информация о происхождении и лицензии также снижает риск случайно использовать нейросеть с ограничениями на коммерческое применение, отдельные регионы или способы распространения.

Для креаторов сервис полезен при выборе локальных моделей для текста, изображений и других задач: он не оценивает качество генерации, но даёт дополнительный слой проверки перед установкой неизвестного файла. Доступ к базе открыт без аккаунта и покупки продуктов Cisco.

Что важно учитывать

Пока Explorer охватывает лишь небольшую часть огромного каталога Hugging Face, где размещены миллионы моделей. Cisco также не сообщила о публичном API, поэтому сервис удобнее для ручной проверки, чем для автоматического контроля в CI/CD. Тем не менее это практичный бесплатный способ проверить происхождение открытой нейросети до её использования в проекте.