МВД предупредило, что память ChatGPT может раскрывать личность пользователя
Обычная переписка с ChatGPT может со временем превратиться в подробный цифровой портрет человека. Даже если пользователь не указывает имя и адрес, сочетание сведений о работе, привычках, здоровье, доходах и личных переживаниях способно сделать его узнаваемым. Об этой угрозе предупредило Управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России.
В ведомстве обратили внимание на функцию памяти ChatGPT, которая позволяет сохранять сведения из предыдущих разговоров и использовать их для персонализации ответов. Пользователь может рассказать нейросети о профессиональных задачах, попросить совета по здоровью или финансам, поделиться личными обстоятельствами. По отдельности такие сообщения могут не раскрывать личность, но вместе формируют достаточно подробный профиль.
В качестве подтверждения МВД приводит исследование The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT, опубликованное в 2026 году. Авторы изучили 2050 записей памяти, полученных из переписок 80 пользователей. Выяснилось, что в 96% случаев сохранение информации инициировала сама система, а не прямой запрос человека. При этом персональные данные обнаружились в памяти 91% участников исследования.
Исследователи нашли не только имена и сведения о социально-экономическом положении. В 52% записей содержалась информация психологического характера - об эмоциях, желаниях, намерениях и убеждениях пользователей. В 28% записей присутствовали персональные данные, относящиеся к категориям, определённым европейским GDPR, а в 7% - сведения особых категорий, к которым относятся, например, данные о здоровье. Среди участников исследования медицинская информация была обнаружена в памяти у 35%.
Авторы работы называют такой профиль «алгоритмическим автопортретом»: нейросеть запоминает не только факты о человеке, но и сведения о его внутреннем состоянии. В отличие от обычных анкет и истории поисковых запросов, такой портрет складывается из рассказов пользователя, обращений за советами и повседневного общения с ИИ.
При этом результаты нельзя автоматически распространять на всех пользователей ChatGPT. Исследование основано на небольшой выборке из 80 человек, преимущественно из США и Европы. Кроме того, 96% означает, что система создавала записи без отдельной прямой команды пользователя, а не то, что данные сохранялись вопреки всем настройкам и условиям сервиса. Тем не менее работа показывает, насколько много личной информации может оказаться в памяти ИИ даже без намерения человека составить такой профиль.
В МВД также предупредили о риске манипулирования памятью через документы с ложными инструкциями. Если пользователь загружает файл, содержащий скрытые команды для нейросети, они могут повлиять на обработку информации и последующие ответы. Подобные атаки называют prompt injection: вредоносные инструкции маскируются под обычное содержимое документа или другого источника данных.
OpenAI, со своей стороны, предоставляет инструменты для управления памятью. Пользователь может посмотреть сохранённые сведения, исправить их или отключить персонализацию в настройках. Временные чаты не создают и не обновляют память, однако компания предупреждает, что их копии могут храниться до 30 дней в целях безопасности. Если такой разговор сохранить в обычную историю, к нему начинают применяться стандартные настройки аккаунта.
МВД рекомендует не передавать чат-боту служебные документы и конфиденциальные сведения, убирать из запросов реальные имена, адреса и другие идентификаторы, а также периодически проверять содержимое памяти. Особенно осторожно стоит обращаться с информацией о здоровье, финансах и личной жизни. Чем больше повседневных задач человек доверяет ИИ, тем важнее понимать, какие сведения система сохраняет и как использует их в дальнейшем.