Миллион скачиваний за 5 дней: новое приложение для создания видео Sora 2 вызвало возмущение из-за дипфейков

Приложение для iOS, доступное только по приглашениям, генерирует гиперреалистичные десятисекундные видео по текстовым запросам. Оно быстро взлетело на вершину App Store, несмотря на то, что доступно только в Соединенных Штатах и Канаде. По словам руководителя Sora в OpenAI Билла Пиблса, скорость, с которой инструмент завоевал любовь пользователей превзошла первоначальный запуск ChatGPT.

Однако праздновали разработчики недолго из-за волны разногласий. Пользователи заполнили платформу дипфейк-видео умерших знаменитостей и персонажей, защищенных авторским правом, что вызвало резкую критику со стороны голливудских студий и скорбящих семей.

Американская ассоциация кинокомпаний (MPA) потребовала от OpenAI принять «немедленные и решительные меры» для решения проблемы того, что она назвала массовым нарушением авторских прав. С момента запуска Sora 2 30 сентября пользователи создали несанкционированные видео с персонажами из крупных франшиз, включая вирусные ролики с Джеймсом Бондом, играющим в покер с генеральным директором OpenAI Сэмом Альтманом, и кадры в стиле записи с полицейской нагрудной камеры, на которых персонаж Nintendo Марио убегает от властей.

«С момента выхода Sora 2 видео, нарушающие права на фильмы, шоу и персонажей наших участников, распространились в сервисе OpenAI и по всем социальным сетям», — подчеркнул в своем заявлении генеральный директор MPA Чарльз Ривкин. Ассоциация, представляющая интересы таких гигантов, как Disney, Universal, Warner Bros. и других, подчеркнула, что согласно действующему законодательству об авторском праве ответственность за предотвращение нарушений лежит на OpenAI.

Споры возникли из-за первоначального подхода компании «отказ по запросу», при котором правообладатели должны были самостоятельно запрашивать исключение своей интеллектуальной собственности из контента, создаваемого Sora. Это не понравилось представителям индустрии.

Способность приложения создавать видео умерших публичных фигур вызвала дополнительное возмущение со стороны семей покойных знаменитостей. Так, Зельда Уильямс, дочь комика и актера Робина Уильямса, сделала эмоциональное обращение в соцсетях, попросив людей перестать присылать ей созданные с помощью искусственного интеллекта видео ее отца, который умер в 2014 году.

«Пожалуйста, просто перестаньте присылать мне ИИ-видео с папой, — написала Уильямс. — Вы не создаете искусство, вы делаете отвратительные, чрезмерно обработанные хот-доги из жизней людей».

Келли Карлин, дочь комика Джорджа Карлина, рассказала СМИ, что ежедневно получает ИИ-видео с использованием образа ее отца, и назвала ситуацию «подавляющей и угнетающей». Дочь лидера движения за гражданские права Малкольма Икса также выразила свою боль от того, что образ ее отца «используется так небрежно и бесчувственно».

В OpenAI заявили, что существуют «серьезные интересы свободы слова» в изображении исторических фигур, и сообщили, что уполномоченные представители недавно умерших публичных фигур могут запросить, чтобы их образы не использовались.

Столкнувшись с растущим юридическим и общественным давлением, генеральный директор OpenAI Сэм Альтман объявил об изменениях в политике и переходе от существующей системы отказа к системе согласия на использование контента, защищенного авторским правом. «Мы предоставим правообладателям более детальный контроль над генерацией персонажей», — заявил Альтман.

Однако, несмотря на внедрение более строгих ограничений, пользователи уже нашли способы обойти их, используя, например, неофициальные имена персонажей. При этом многие сообщили, что изменение политики разочаровало их, а приложение стало «практически бесполезным» из-за чрезмерной модерации.

Эксперты по цифровой безопасности предупреждают, что Sora представляет собой новую угрозу для доверия в интернете. Интеграция приложения с платформами социальных сетей сделала контент, созданный ИИ, более распространенным в лентах пользователей.

Сейчас в OpenAI разрабатывают модели распределения доходов с правообладателями и изучают более детальные средства контроля над генерацией персонажей. Однако юристы прогнозируют, что этот спор — лишь начало того, что может стать затяжной битвой между Кремниевой долиной и Голливудом за роль ИИ в создании контента.