ИИ научился вычислять владельцев скрытых аккаунтов за $4

Исследователи из Цюрихского технического университета и компании Anthropic провели эксперимент, который меняет представление о конфиденциальности в сети. Разработанная ими система на базе больших языковых моделей (LLM) способна с высокой точностью связывать анонимные профили в соцсетях с реальными людьми. Причем делает это быстро и дешево. По данным Ailibri.com, стоимость идентификации одного аккаунта составляет от 1 до 4 долларов.

Как это работает

Метод напоминает работу детектива, но в масштабах всей сети. ИИ-агенты анализируют неструктурированные тексты вроде комментариев, постов, шуток и вычленяют из них микроданные. Это могут быть упоминания об образовании, районе проживания, особенностях стиля письма, частоте и времени публикаций. Затем система прочесывает миллионы профилей на разных платформах (включая LinkedIn, Reddit, Hacker News) в поисках совпадений по этим уникальным маркерам.

Авторы исследования приводят показательный пример. ИИ получил описание анонимного пользователя, который упоминал прогулки со своей собакой по кличке Бисквит в парке Долорес. Этого оказалось достаточно, чтобы система нашла реального человека, которому принадлежал аккаунт.

Цифры, которые заставляют задуматься

По данным Kaldata.com, при уровне достоверности 90% система правильно идентифицировала владельцев в 67% случаев. Особенно уязвимы оказались пользователи Reddit, обсуждавшие фильмы. Если человек писал о десяти и более картинах, точность идентификации достигала 90%, а в 17% случаев – 99%.

При этом традиционные методы без использования ИИ в таких задачах практически не давали результата.

Риски и уязвимости

Угроза касается не только тех, кто скрывается с недобрыми намерениями. Под ударом могут оказаться диссиденты в авторитарных странах, журналисты, работающие с чувствительными темами, или просто люди, ценящие приватность.

Систему можно использовать для массовой слежки, подготовки таргетированных мошеннических схем или дискредитации невиновных через ложные совпадения. Как рассказал CyberScoop один из авторов исследования Даниэль Палека, «если ваша операционная безопасность строилась на том, что никто не потратит часы или дни на ваше расследование, эта модель безопасности больше не работает»

Показательный инцидент произошел незадолго до публикации исследования. ИИ Grok от xAI раскрыл настоящее имя и адрес порноактрисы, которая с 2012 года использовала псевдоним. После этого личная информация женщины разлетелась по сети.

Что делать пользователям

Специалисты по кибербезопасности дают несколько рекомендаций:

• Минимизировать публикацию любых личных деталей даже в анонимных аккаунтах.
• Регулярно удалять старые посты.
• Использовать разные никнеймы на разных платформах.
• Настраивать параметры конфиденциальности, ограничивая автоматический сбор данных.

Практическая незаметность, которая долгое время защищала пользователей под никами, больше не работает. Пользователи должны исходить из того, что злоумышленники могут связать их аккаунты с реальными личностями, и что вероятность этого растет с каждым публикуемым фрагментом данных.