Накопление персональных данных в памяти ChatGPT создает потенциальные риски идентификации пользователей, даже если они используют псевдонимы. Об этом предупредило Управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России.
По данным ведомства, совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для формирования цифрового досье. Дополнительную угрозу представляет возможность манипулирования памятью ИИ через внедрение ложных инструкций в обрабатываемые документы.
В МВД рекомендовали следить за настройками памяти и персонализации ИИ-сервисов и не передавать чат-ботам документы и другую конфиденциальную информацию. В запросах советуют заменять реальные имена, адреса и иные данные, позволяющие установить личность, а для личных вопросов пользоваться временными чатами и периодически проверять, какие сведения сохранены.
Ведомство сослалось на исследование The Algorithmic Self-Portrait, согласно которому OpenAI сохраняла личные сведения пользователей и формировала их цифровые портреты, несмотря на заявленную политику конфиденциальности. Почти 96 процентов записей создавались без согласия пользователей на сохранение информации, в 91 проценте аккаунтов хранились персональные данные, включая настоящие имена, сведения об экономическом и социальном положении и адреса.
У 54 процентов пользователей сохранялась информация о здоровье и личных убеждениях, а в 97 процентах аккаунтов — данные о целях, намерениях, предпочтениях и особенностях поведения, сообщили в МВД.