Развитие технологий искусственного интеллекта делает анонимность в интернете практически недостижимой, к такому выводу пришли исследователи из ETH Zurich и Anthropic.
В ходе эксперимента ученые использовали ИИ-агента для анализа данных пользователей на форумах Hacker News и Reddit. Алгоритм изучал стиль письма, биографические детали и время публикаций, сопоставляя эти данные с информацией из других источников, включая профили в LinkedIn. В результате система смогла идентифицировать 68% пользователей всего за несколько секунд, даже при отсутствии прямых указаний на их имена.
Соавтор исследования, Саймон Лермен, отметил, что такие ИИ-агенты способны выполнять задачи, которые раньше считались крайне сложными. Анализируя произвольный текст, они могут определить личность человека без необходимости в заранее структурированных и сопоставимых наборах данных. При этом эксперимент обошелся менее чем в 2000 долларов, что делает технологию легко масштабируемой для анализа десятков тысяч пользователей.
Интересно, что даже при минимуме данных ИИ в ряде случаев успешно определял личности, а при анализе активных обсуждений, например, о кино, точность значительно возрастала.
Авторы исследования предостерегают, что подобные технологии могут использоваться для массовой слежки. В частности, власти смогут сопоставлять анонимные аккаунты с реальными личностями, что создает риски для журналистов, активистов и других пользователей.
Профессор Университетского колледжа Лондона Питер Бентли также отметил, что ошибки ИИ могут привести к необоснованным обвинениям. С другой стороны, данная технология может помочь правоохранительным органам в выявлении преступников в сети. Однако собранные ИИ данные не имеют юридической силы в суде, что ограничивает их применение.
Эксперты также указывают на риск усиления контроля со стороны государства и возможность использования таких инструментов экстремистами для поиска сторонников.
По информации РБК,
фото сгенерировано ИИ
