О том, что ИИ способен выявлять и разоблачать анонимных интернет-пользователей, рассказали исследователи из Швейцарской высшей технической школы Цюриха, участники независимой научно-исследовательской программы MATS и специалисты IT-стартапа Anthropic, разработавшего ИИ-модель Claude.
Анонимность — всё: ИИ научился вычислять владельцев скрытых аккаунтов в соцсетях
Ученые опасаются, что этот навык может быть использован в противоправных целях.
Freepik
Судя по всему, анонимности в интернете, которая и так в последние годы вызывала немало вопросов, пришел конец. Причина тому – стремительное развитие технологий искусственного интеллекта: нейросети научились распознавать личности даже самых скрытных владельцев аккаунтов в соцсетях.
Принцип «расследований», которые проводят нейросети, довольно простой. Искусственный интеллект анализирует все, что человек пишет в своем анонимном профиле, выявляет в его публикациях характерные детали, а затем ищет совпадения на других платформах, где он выступает хотя бы чуть менее скрытно или вовсе пишет от собственного имени. Как утверждают авторы исследования, во многих тестах такой метод ИИ срабатывал достаточно точно.
Так, в ходе экспериментов они передавали нейросетям данные об анонимных аккаунтах и просили собрать о них максимум доступной информации. Эксперты даже привели конкретный пример – юзер, пишущий о проблемах с учебой и прогулках в парке Мишен Долорес в Сан-Франциско с собакой по кличке Печенька. Если для живого человека это просто набор ненужных деталей, то для ИИ – пазл, который осталось только собрать в единую картину.
Сопоставляя детали с данными, разбросанными по всему интернету, искусственный интеллект в итоге оказывается способен связать анонимный профиль с конкретным человеком. И самое неприятное в этой ситуации – ИИ даже не нужно ничего взламывать: информации о каждом из нас в Сети уже предостаточно.
По мнению ученых, такие функции нейросетей делают OSINT-наблюдение более доступным и быстрым. При этом использоваться полученные данные могут в самых разных целях. К примеру, государственные структуры могут применять их для слежки за активистами и блогерами, высказывающимися анонимно, а мошенники – для целевых атак: чем больше деталей киберпреступник знает о своей жертве, тем проще ему втереться к ней в доверие под видом знакомого или даже родственника.
Впрочем, навыки ИИ все же пока не стоит преувеличивать. Ученые обращают внимание, что на данный момент нейросети не всесильны и им, как и простым людям, свойственны ошибки, а иногда и фантазии. Правда, и в этой особенности кроется потенциальная угроза: если ИИ ложно свяжет анонимный аккаунт с реальным человеком, к которому этот профиль не имеет никакого отношения, жертва такого промаха столкнется с определенным риском – особенно если речь идет о публичных обвинениях или политических темах.