В новом исследовании ученые демонстрируют, что ИИ уже легко идентифицирует людей в интернете по их аккаунтам, что ставит под сомнение любую анонимность в сети.
Широко распространено мнение, что установить личность человека по его аккаунту возможно, однако это требует значительных усилий и ресурсов, поэтому без крайней необходимости никто не будет этим заниматься. Однако результаты исследования подтверждают, что LLM уже способны делать это в больших масштабах и это относительно недорого.
Команда исследователей разработала автоматизированную систему, имитирующую процесс принятия решений человеком, который проводит следственные действия. Сначала ИИ анализирует историю сообщений типичного пользователя Reddit или Hacker News и изучает неструктурированный текст. Эта необработанная информация, включающая комментарии, шутки, данные об образовании и незаметные, на первый взгляд, особенности стиля изложения, превращается искусственным интеллектом в математический образ профиля человека. Затем ИИ ищет соответствующие совпадения среди миллионов других профилей в интернете и на отдельных сайтах, таких как LinkedIn.
После обнаружения совпадений система оценивает аргументы в пользу того, что несколько профилей принадлежат одному человеку. Далее ИИ присваивает прогнозируемому совпадению оценку вероятности. Если такой уверенности у него нет, он ничего не указывает, чтобы предотвратить необоснованные предположения.
Исследователи испытали собственную систему на почти 1000 профилях в LinkedIn и проверили, сможет ли она сравнить их с учетными записями на Hacker News. Владельцы профилей были известны исследователям, которые умышленно удалили имена, ссылки и другие очевидные факторы, которые упрощают идентификацию.
Система на базе ИИ успешно связывала учетные записи с точностью до 67% при эталонном показателе 90%. В то же время другие методы без использования искусственного интеллекта почти не достигали успеха. Система даже сравнивала пользователей из разных сообществ Reddit, даже если те были активны под разными учетными записями в разное время. Кроме этого исследователи установили, что стоимость идентификации личности с использованием ИИ стоит всего от $1 до $4.
«Практическая непрозрачность, которая долгое время защищала пользователей, использующих псевдонимы… больше не сохраняется. Псевдоним не обеспечивает надежной защиты в интернете. Пользователи, которые публикуют сообщения под постоянными именами, должны исходить из того, что злоумышленники могут связать их учетные записи с реальными личностями или друг с другом, и что вероятность этого возрастает с каждым опубликованным ими микроданным», — предупреждают исследователи.
Результаты указывают на то, что инструменты на базе ИИ для идентификации лиц в интернете в дальнейшем смогут использоваться правоохранительными органами и специалистами по кибербезопасности. Эпоха анонимности в интернете подходит к концу, делают вывод авторы исследования.
Ранее мы писали, что приложения Smart TV незаметно собирают веб-данные пользователей для обучения ИИ. В то же время сервис ИИ находит пользователей YouTube по комментариям.
Розумні окуляри Meta можуть передавати приватні відео та фінансові дані модераторам
СпецпроектыВисокі стелі, панорамні види на Карпати та енергоефективність. Чим дивує нова черга котеджів SkogurРозумна краса: як обрати ідеальний смарт-ґаджет у подарунок на 8 березня
Результаты исследования опубликованны на сервере препринтов ArXiv
Источник: TechXplore
