Содержание
Meta* AI получит родительские предупреждения для подростковых чатов
Meta* объявила о новых мерах безопасности для подростков, которые общаются с Meta AI. Если подросток находится под родительским надзором в Instagram и в разговоре с чат-ботом появляются признаки суицидальных мыслей или самоповреждения, родитель сможет получить предупреждение и подборку экспертных ресурсов.
Компания пишет, что Meta AI и раньше перенаправлял подростков к кризисным линиям и советовал обратиться к родителю, консультанту или другому взрослому. Новое изменение делает реакцию более активной: система должна не только отвечать самому подростку, но и вовлекать взрослого, если риск выглядит достаточно явным.
Как это будет работать
Meta* разработала отдельную AI-систему, которая ищет в подростковых диалогах сигналы возможного риска. В примерах компания говорит о прямых или даже тонких упоминаниях намерения навредить себе. Уведомления будут отправляться родителям, которые уже используют инструменты supervision в Instagram.
При этом Meta* подчеркивает, что настройка таких сигналов велась вместе с родителями и экспертами. Задача — не пересказывать каждый личный диалог, а срабатывать в ситуациях, где подростку может понадобиться офлайн-поддержка и разговор с взрослым.
Почему это важно
Новость показывает, как быстро AI-чаты становятся частью социальных платформ и как вместе с этим меняются требования к безопасности. Для сервисов с подростковой аудиторией уже недостаточно просто добавить нейросетевого помощника: нужны понятные правила эскалации, отдельные модели для риска и инструменты для родителей.
Для пользователей и создателей AI-продуктов это сигнал: функции персонального ассистента будут оценивать не только по качеству ответов, но и по тому, как они ведут себя в уязвимых сценариях. Особенно когда AI встроен не в отдельное приложение, а в соцсеть, где подростки и так проводят много времени.
Что дальше
Meta* продолжит развивать возрастные ограничения и защитные сценарии вокруг Meta AI. На практике это может стать ориентиром для других платформ с AI-ботами, особенно там, где есть подростковые аккаунты, родительский контроль и личные переписки.
* Meta Platforms Inc. признана экстремистской организацией и запрещена на территории РФ.