Компания OpenAI планирует внедрить шифрование для чатов в своем нейросетевом сервисе ChatGPT, чтобы повысить уровень конфиденциальности пользовательских данных.
В ChatGPT будут шифровать чаты: пользователи нейросети стали слишком откровенными
OpenAI столкнулась с парадоксальной проблемой: в отличие от мессенджеров, чат-бот должен «читать» сообщения, чтобы на них ответить. Это делает стандартное сквозное шифрование невозможным. Что же делать?
Unsplash
Как сообщил изданию Axios генеральный директор компании Сэм Альтман, первым шагом в этом направлении станет шифрование временных чатов — функции, которая позволяет вести диалоги, не сохраняя их в истории и не используя для обучения языковых моделей.
По информации издания, это решение было принято после того, как в OpenAI пришли к выводу, насколько чувствительной информацией пользователи делятся с чат-ботом. Альтман признал, что люди используют ChatGPT для обсуждения очень личных тем: от медицинских данных до семейных конфликтов, фактически доверяя ему роль терапевта без лицензии.
Изначально вопрос приватности не был приоритетом, но теперь, по словам главы OpenAI, компания относится к нему очень серьезно. В связи с этим даже обсуждается концепция «AI privilege» — аналога врачебной тайны для общения с ИИ.
Однако внедрение полноценного шифрования в ChatGPT — задача не из легких. В отличие от мессенджеров со сквозным шифрованием, где ключи хранятся только на устройствах пользователей, архитектура ChatGPT требует доступа к тексту запроса на серверах OpenAI для его обработки. Это создает технический парадокс: компания одновременно выступает и посредником, и собеседником. В качестве возможного решения рассматриваются технологии, подобные Private Cloud Compute от Apple, которые позволяют обрабатывать данные без прямого доступа к ним.
Вопрос конфиденциальности обострился на фоне недавних событий, связанных как раз с OpenAI. Федеральный суд США обязал компанию бессрочно хранить все чаты пользователей, включая временные и удаленные, в рамках дела о нарушении авторских прав. OpenAI намерена оспорить это постановление, которое фактически лишает временные чаты их статуса.
Сэм Альтман отметил, что пока количество запросов от правоохранительных органов на выдачу данных невелико — двузначные числа в год. Однако он уверен, что одного громкого дела будет достаточно, чтобы пользователи потребовали кардинально иного подхода к защите.
Помимо дела в отношении OpenAI, другой техногигант, Google, ранее начал индексировать публичные чаты ChatGPT, доступные по функции «Поделиться». Хотя проблему оперативно исправили, она в очередной раз подняла тему уязвимости данных.
Если OpenAI удастся реализовать надежное шифрование, это может стать новым стандартом для всей отрасли. Но пока проект остается на стадии обсуждения, и вопрос доверия к искусственному интеллекту снова остается открытым.