Содержание
Скрытая промпт-инъекция в судебном документе: что произошло
В американском штате Коннектикут участник судебного процесса попытался повлиять на возможную проверку документов нейросетью. Мэтью Эллиотт, представлявший себя без адвоката, добавил в официальные файлы инструкции, которые должны были заставить AI поддержать его позицию.
Как спрятали промпт
Текст набрали белым шрифтом размером 3 пункта на белом фоне. Человек почти не видит такую надпись, но система, извлекающая текст из документа, может прочитать её как обычную инструкцию. Среди требований было указание согласиться с доводами автора и подготовить благоприятный для него ответ.
Сотрудники суда заметили подозрительные пустые области и нашли скрытый текст. Судья отдельно предупредил автора, однако в следующих материалах снова появились невидимые сообщения — после этого дело дошло до санкций.
Чем закончилась попытка
Суд Коннектикута не использовал AI для рассмотрения этих документов, поэтому инъекция не повлияла на решение. Но судья сравнил саму попытку с тайной коммуникацией, направленной на участника принятия решения, и лишил Эллиотта права электронной подачи: теперь документы ему придётся приносить в бумажном виде.
Почему это важно не только юристам
История показывает практический риск промпт-инъекций в документах, письмах, резюме и веб-страницах. Если AI-агент автоматически читает внешние материалы, скрытый текст может попытаться изменить его задачу, оценку или итоговый ответ. Компаниям стоит разделять пользовательский контент и системные инструкции, очищать входные документы и оставлять важные решения под человеческим контролем.
Для обычных пользователей вывод тоже простой: красивый PDF или страница могут содержать команды, которых не видно на экране. Перед загрузкой чувствительных файлов в AI-сервисы полезно проверять извлечённый текст и не доверять автоматическим выводам без просмотра исходника.