Плохие новости для тех, кто все еще верит в анонимность в интернете и делится самым сокровенным с нейросетями. Издание 404 Media выяснило, что компания OpenAI наняла сотни подрядчиков, чья главная обязанность – читать диалоги пользователей с ChatGPT, в которых может содержаться конфиденциальная личная информация.
Анонимность — это миф: стало известно, кто читает ваши переписки с ChatGPT
OpenAI наняла сотни подрядчиков для мониторинга чатов.
Unsplash
По данным 404, цель такого мониторинга – улучшить ответы, которые нейросеть дает своим юзерам. При этом сами подрядчики имеют право не только просматривать диалоги, но и оценивать, а также критиковать сгенерированные чат-ботом реплики.
Внутренние документы OpenAI, с которыми ознакомилось издание, показывают, что нанятые компанией специалисты учат ChatGPT не антропоморфизировать себя и меньше льстить и поддакивать пользователю. Сейчас «подобострастие» чат-бота остается одной из ключевых проблем для его создателей, поскольку привычка говорить юзерам именно то, что они хотят нередко приводит к непоправимым последствиям – в том числе самоубийствам.
Авторы материала отмечают, что нововведения в OpenAI могут представлять серьезный риск для конфиденциальности пользователей. «Люди часто используют ChatGPT как терапевта, профессионального помощника или виртуального друга, раскрывая ему всевозможные интимные подробности своей жизни», - пишет СМИ.
Продолжение ниже
Видео
Продолжение
Отмечается, что подрядчики не видят имен пользователей, диалоги которых они просматривают. OpenAI в свою очередь заявляет, что старается удалять всю личную информацию до того, как она попадет к проверяющим. Однако в компании признают, что конфиденциальные сведения все же могут оказаться в их руках.
Эта практика развеивает ошибочное представление о том, что ИИ-модели улучшаются только благодаря массовому сбору данных из открытых источников, а также таланту высокооплачиваемых инженеров OpenAI или мощи ее новых моделей. При этом к помощи подрядчиков прибегают и другие крупные игроки из ИИ-отрасли. Так, например, корпорация Anthropic подтвердила в комментарии 404, что также использует ручную проверку для улучшения своих моделей.
Впрочем, у пользователей все же есть возможность сохранить конфиденциальность. Для этого необходимо запретить доступ третьим лицам к просмотру переписки ChatGPT. Чтобы это сделать, нужно перейти в меню «Настройки», выбрать пункт «Управление данными» и отключить функцию «Совершенствовать модель для всех».
Загружаем