Чат-бот Grok, разработанный компанией Илона Маска xAI, оказался в центре крупного инцидента, связанного с массовой утечкой данных. Как сообщило издание Forbes, в открытом доступе в интернете оказались стенограммы более 370 тысяч диалогов пользователей с этой нейросетью.
Нейросеть Илона Маска слила в сеть сотни тысяч диалогов: среди них оказался даже план покушения на миллиардера
Утечка раскрыла не только личные секреты пользователей, но и серьезные уязвимости в безопасности нейросетей.
Unsplash
Переписки, которыми люди делились, стали доступны любому желающему через поисковые системы, такие как Google, причем, по данным экспертов, это происходило без ведома и разрешения самих пользователей.
Проблема оказалась в работе кнопки «Поделиться» в интерфейсе чат-бота. Когда пользователь нажимал на нее, чтобы отправить кому-то свою беседу с Grok, система создавала уникальную веб-ссылку. Однако оказалось, что эти ссылки не были приватными. Поисковые роботы могли свободно их находить и добавлять в свои базы данных. При этом в самом сервисе не было никаких предупреждений о том, что созданная ссылка сделает переписку публичной.
В результате в поисковой выдаче Google появились тысячи разговоров на самые разные темы. Большинство из них были вполне безобидными: люди просили нейросеть помочь написать твит, решить простую бизнес-задачу или придумать заголовок для статьи.
Но среди опубликованных данных оказалось и много конфиденциальной информации. Пользователи задавали Grok вопросы о своем здоровье, обсуждали психологические проблемы и делились личными переживаниями.
В некоторых чатах люди раскрывали свои имена, фамилии, а в одном из случаев журналисты Forbes обнаружили даже пароль от аккаунта. Вместе с текстом переписки в открытый доступ попали и файлы, которые пользователи загружали в чат — фотографии, документы и таблицы.
Особое внимание привлекли те переписки, в которых пользователи запрашивали информацию, нарушающую правила использования Grok. Несмотря на официальный запрет компании на разработку оружия, чат-бот предоставлял, например, инструкции по созданию бомбы. Также он рассказывал, как изготовить наркотики, написать вредоносную программу или взломать криптовалютный кошелек.
В одном из диалогов нейросеть даже составила детальный план покушения на своего создателя, Илона Маска, и сгенерировала изображения вымышленного теракта. Вся эта информация, включая способы совершения суицида, благодаря функции «Поделиться» была опубликована и проиндексирована в сети.
Стоит отметить, что Grok — не первый чат-бот, столкнувшийся с подобной проблемой. Ранее пользователи ChatGPT от OpenAI также с удивлением обнаруживали свои переписки в результатах поиска Google. Однако в том случае для индексации нужно было активировать специальную опцию, и даже при этом OpenAI в итоге признала эксперимент неудачным и отключила эту возможность.
В случае с Grok, похоже, все происходило автоматически и без ведома пользователей.