Содержание
WhatsApp получил локальную AI-проверку подозрительных сообщений
Meta* показала Scam Alert — новую необязательную функцию WhatsApp, которая с помощью машинного обучения предупреждает о вероятном мошенничестве в переписке. Система уже начала ограниченное бета-тестирование, а перед широким запуском компания намерена проверить её вместе с исследователями безопасности.
Как работает Scam Alert
После включения функции WhatsApp загружает небольшую модель на смартфон. Она анализирует входящие сообщения от незнакомых контактов, ищет характерные признаки социальной инженерии и при высоком риске показывает предупреждение прямо в чате. Собеседник его не видит.
Пользователь сам решает, что делать дальше: заблокировать отправителя, пожаловаться или продолжить разговор. Если система ошиблась, чат можно пометить как доверенный. В этом случае предупреждение исчезнет, а повторно проверять эту переписку Scam Alert не будет.
Переписка остаётся на устройстве
Ключевое отличие функции — локальная обработка. По заявлению компании, содержимое сообщений не покидает смартфон и ничего не отправляется автоматически в WhatsApp или третьим лицам. Передать последние пять входящих сообщений для улучшения модели можно только добровольно.
Для проверки приватности компания планирует публиковать версии модели в открытом журнале, предоставить исследователям её веса и расширить программу вознаграждений за найденные уязвимости. Анонимная статистика о предупреждениях и действиях пользователей будет собираться через защищённую среду с дифференциальной приватностью.
Почему это важно
WhatsApp используют более трёх миллиардов человек, поэтому мессенджер остаётся одной из главных площадок для фишинга, поддельных инвестиций и схем с переводами денег. Для пользователей новая функция может стать дополнительным фильтром риска, но не заменяет осторожность: модель вероятностная, может ошибаться, а сейчас доступна только части участников бета-теста.
* Meta Platforms Inc. признана экстремистской организацией и запрещена на территории РФ.