Содержание
SAGA научилась находить источник сгенерированного видео
Команда UC Riverside совместно с исследователями YouTube и Google DeepMind представила SAGA — систему атрибуции сгенерированных видео. Она решает более сложную задачу, чем обычные детекторы дипфейков: не только определяет, что ролик создан нейросетью, но и выясняет, какой именно AI-генератор оставил в нём свои следы.
У каждой видеомодели есть свой «отпечаток»
Генераторы незаметно добавляют в кадры характерные визуальные и временные артефакты. SAGA анализирует детали отдельных кадров и то, как изображение меняется во времени, а затем строит Temporal Attention Signatures — усреднённый профиль, похожий на цифровой отпечаток конкретной модели.
Исследователи проверили подход на публичных наборах данных с роликами от 19 генераторов. В тестах система различала настоящие и синтетические видео, определяла, создан ли ролик из текста или из изображения, распознавала разные версии моделей и даже могла установить команду-разработчика.
Почему одного ярлыка «AI-видео» уже недостаточно
По мере роста качества генерации простая проверка на подделку даёт всё меньше контекста. Атрибуция источника может помочь платформам отслеживать распространение синтетического контента, экспертам — расследовать кампании с дезинформацией, а регуляторам — проверять соблюдение требований к маркировке.
Для авторов, маркетологов и бизнеса технология тоже важна: она показывает, что происхождение AI-контента постепенно становится проверяемым. Это повышает ценность прозрачной маркировки роликов и сохранения данных о том, каким сервисом и в каком процессе они были созданы.
Что дальше
Авторы называют борьбу с подделками игрой в кошки-мышки: генераторы будут меняться, а детекторам придётся обновлять сигнатуры. Но SAGA демонстрирует новый уровень видеофорензики — от ответа «это сгенерировано» к более полезному «вот вероятный источник».