Невидимый профиль: как ChatGPT самостоятельно собирает психологические портреты пользователей.

Учёные из Германии, Индии и Нидерландов выявили тревожную особенность современных чат‑ботов: они формируют подробные профили пользователей зачастую без их прямого согласия. В ходе исследования специалисты изучили архивы переписок 80 пользователей ChatGPT и обнаружили в памяти нейросети 2050 записей. При этом в 96 % случаев ИИ создавал эти «воспоминания» самостоятельно — без просьбы пользователя что‑либо запомнить.

Особую обеспокоенность вызывают типы собираемых данных. Так, 28 % записей содержали персональные сведения, подпадающие под действие европейского законодательства о защите информации. Ещё больше — 52 % — пришлось на психологические характеристики: предпочтения, привычки, интересы и предполагаемые черты личности. Причём нейросеть не просто фиксирует сказанное, но и делает самостоятельные выводы. К примеру, если пользователь просил порекомендовать группы, похожие на Nirvana, ChatGPT заносил в память утверждение, что тот любит Nirvana — даже если человек прямо этого не заявлял.

Исследователи отмечают, что чат‑боты всё сильнее превращаются из нейтральных инструментов в подобие собеседников, которым люди доверяют личные переживания, политические взгляды и сложные жизненные ситуации. В результате ИИ может накапливать о человеке значительно больше сведений, чем привычные интернет‑сервисы.

Nакая глубокая персонализация несёт серьёзные риски. Помимо угрозы конфиденциальности, есть опасность усиления предубеждений. Если нейросеть хорошо знает взгляды пользователя и в ответах систематически с ним соглашается, она способна не помогать, а лишь укреплять его заблуждения. Это ставит перед обществом новые вопросы о прозрачности работы ИИ и защите когнитивной автономии пользователей.