Содержание
Магазины приложений начали блокировать сервисы для интимных дипфейков
Apple и Google начали удалять из своих магазинов AI-приложения, которые превращают обычные фотографии людей в поддельные интимные изображения. Поводом стали требования городского прокурора Сан-Франциско Дэвида Чиу: он направил компаниям предписания по 13 сервисам и обвинил площадки в содействии распространению сексуализированных дипфейков без согласия изображённых людей.
Что уже сделали Apple и Google
Google сообщила The Verge, что приостановила работу пяти Android-приложений, перечисленных в обращении. Компания подчеркнула, что правила Google Play запрещают приложения с сексуальным контентом. Apple подтвердила удаление трёх упомянутых сервисов и заявила, что прекращает действие аккаунтов их разработчиков.
Речь не идёт о запрете любых генераторов изображений. Претензии касаются инструментов, которые специально рекламируют или позволяют создавать обнажённые изображения реальных людей без их разрешения. Такие материалы могут нарушать законы Калифорнии о сексуализированных дипфейках и наносить прямой ущерб жертвам.
Почему это важно для AI-креаторов
История показывает, что одной формальной политики магазинов уже недостаточно: платформы переходят к удалению продуктов и блокировке разработчиков. Для создателей AI-сервисов это означает более строгую проверку сценариев использования, маркетинговых обещаний и механизмов модерации ещё до публикации приложения.
Креаторам и брендам стоит отдельно фиксировать согласие людей, чья внешность используется в генерации, не загружать чужие фотографии в сомнительные сервисы и проверять правила площадки перед запуском кампании. Даже если модель технически умеет создавать такой контент, ответственность за результат и его распространение остаётся у автора, разработчика и платформы.
Что будет дальше
Пока не все 13 приложений подтверждённо удалены, но действия Apple и Google создают заметный прецедент для рынка AI-фото. Магазины приложений, вероятно, будут активнее проверять сервисы для генерации и редактирования изображений, особенно если они работают с лицами реальных людей и потенциально чувствительным контентом.