Что сериал «Кремниевая Долина» предсказал о патернализме братства айтишников, увлеченных созданием ИИ?

Он может выключать ваши приборы и приглушать свет перед сном. А также, как и его «сестры» Alexa и Siri, выбрать саундтрек, чтобы убаюкать вас перед сном. Технология ждет вашего призыва, а затем беспрекословно отвечает. Она сделает служение естественным. Она окружит вас заботой — и ничего не попросит взамен.

Привлекательный ИИ заменяет патернализм (отцовское, покровительственное отношение, когда опекаемый находится в зависимом положении от более сильного покровителя, который может диктовать свои условия — прим. ред.) характера типичного технического языка на более мягкий. Или, проще говоря, на более женственный — подход, довольно прозрачен с точки зрения брендинга: это способ справиться с тревожностью. Он призван убедить потребителя в том, что «грядущее будущее человечества и ИИ», как названо в недавнем отчете Элонского университета, будет не угрозой, а перспективой.

Да, ИИ в целом может стать, как сказал Илон Маск в 2023 году, «самой разрушительной силой в истории». Он может быть, как заявил он в 2014 году, «потенциально более опасным, чем ядерное оружие». Это сила, подобная «бессмертному диктатору, от которого мы никогда не сможем сбежать», предположил он в 2018 году. И все же ИИ наступает. Он неизбежен. У нас, потребителей с интеллектом человеческого уровня, очень мало выбора в этом вопросе. Люди, строящие будущее, не спрашивают нашего разрешения. Они ожидают нашей благодарности.

Нужно быть очень наивным, чтобы верить в то, что можно создать нечто, что одновременно затмевает человечество и служит ему. Это убеждение созрело для сатиры. Возможно, именно поэтому теперь актуально вспомнить комментарий, опубликованный в прошлом году в Reddite о сатирическом сериале HBO «Кремниевая долина»: «Жаль, что это шоу не дожило до эпохи повального увлечения искусственным интеллектом».

Премьера «Кремниевой долины» состоялась в 2014 году, за год до того, как Илон Маск, Сэм Альтман и группа инженеров основали OpenAI, чтобы, как говорилось в их заявлении о миссии, «искусственный общий интеллект приносил пользу всему человечеству». Сериал завершился в 2019 году, до широкого распространения ИИ. Некоторые события, произошедшие с тех пор, в том числе ребрендинг Маска как олигарха в футболке и имитация Альтманом голоса Скарлетт Йоханссон для чат-бота ChatGPT, как в фильме 2013 года «Она», сделали бы его более популярным.

«Кремниевая долина» временами выглядит скорее как пародия, чем как сатира: несмотря на острые наблюдения за технологической культурой, сериал иногда кажется чередой шуток в поисках кульминации. Однако он блистателен, когда обращается к гендерной динамике в сфере технологий — когда рассматривает последствия высокомерия в этой области.

В сериале не уделяется много внимания искусственному интеллекту как моральной проблеме — до последних нескольких эпизодов. Но он все равно предлагает проницательную пародию на ИИ как на потребительскую технологию и как на будущее, которое нам навязывают. Это связано с тем, что шоу очень тонко подмечает то, как власть переходит от одного к другому и распределяется в отрасли, а также высокомерную склонность технологических гениев изображать общественность в стереотипно женской, подчиненной роли.

Они принимают решения, мы подчиняемся. Они — творцы, движимые конкуренцией, завоеваниями и убежденные, что будущее в их руках. Мы — те, кто будет жить в соответствии с их решениями. «Кремниевая долина» прямо не предсказывает мир, в котором ИИ станет «ласковым». Однако в некотором смысле шоу это делает. Оно изучает людей, которые создают ИИ. Оно пародирует их патернализм. Философ-феминистка Кейт Манн утверждает, что мужественность в своей крайней форме — это самоутверждающаяся форма притязания на что-то. «Кремниевая долина» знает, что нет большего притязания на что-то, чем попытка перекроить настоящее и построить новое будущее.

Сериал рассказывает о развитии вымышленного стартапа Pied Piper, компании со скучным продуктом — алгоритмом сжатия данных — и амбициозной миссией. Этот алгоритм может привести к реализации давней мечты: созданию децентрализованного интернета, в котором данные хранятся не на корпоративных серверах, а на отдельных устройствах сети.

Ричард Хендрикс, основатель Pied Piper и главный автор этого алгоритма, по профессии программист, но по натуре идеалист. В течение сезона он сражается с миллиардерами, которыми движут эгоизм, мелочность и жадность. Он не стремится быть круче и сильнее, а просто хочет развивать свою технологию.

Однако его окружают куда менее преданные своему делу персонажи. Это Эрлих Бахман, который продал созданное им приложение за скромную прибыль и теперь регулярно путает удачу с заслугами. Бертрам Гилфойл, программист, который превратил иронию в яд для окружающих Динеш Чугтай, программист, который жаждет женского общества так же сильно, как и боится его. Джаред Данн, бизнес-менеджер, чья компетентность противоречит его кротости.

Несмотря на то, что шоу высмеивает личные недостатки парней, оно возвышает их усилия. «Кремниевая долина» — это история о Давиде и Голиафе. Pied Piper — крошечная компания, пытающаяся выстоять против крупных мировых корпораций.

Шоу, созданное в соавторстве с Майком Джаджем (сценарист сериала «Бивис и Батт-Хед»), может быть по-подростковому легкомысленным в отношении собственной брутальности (многие шутки связаны с пенисами). Но оно также часто проницательно описывает абсурд, который может возникнуть, когда к мужчинам относятся как к богам, пишет The Atlantic. Шоу высмеивает руководителя технологической компании, который размахивает буддийскими четкими и жестоко обращается с животными. Оно высмеивает демонстративное потребление жителей долины.

Больше всего в сериале высмеивается близорукость мужчин, которых в Кремниевой долине и за ее пределами почитают как «провидцев». Все, что они видят и о чем заботятся, — это их собственные интересы. Их ошибки приводят к хаосу, и «Кремниевая долина» на протяжении сезонов вплетает в сюжетную линию резкие повороты.

Шоу с мелодраматической легкостью балансирует между успехом и провалом. Ричард и его растущая команда — коллеги-инженеры, инвесторы, бизнес-менеджеры — кажется, движутся вперед, получая новый крупный раунд финансирования или хорошую рекламу. Затем, словно по сигналу, они снова терпят неудачу: из пасти победы вырывается поражение. Из-за резких поворотов шоу может быть трудно смотреть. Вы вкладываете душу в судьбу этого дерзкого стартапа. Вы надеетесь. Вы испытываете своего рода превентивное облегчение, пока не наступает следующее разочарование.

ИИ может подтолкнуть своих пользователей к подобным колебаниям. Это продукт, который нужно продавать, и будущее, которое нужно принять. Это то, что нужно контролировать: Альтман из OpenAI выступил перед Конгрессом в 2023 году с просьбой о государственном регулировании. И то, что нельзя сдерживать: OpenAI в этом году вместе с другими технологическими гигантами обратилась к федеральному правительству с просьбой предотвратить регулирование на уровне штатов.

Публичные комментарии Альтмана рисуют картину ИИ, напоминающую Скайнет — искусственный интеллект, главный антагонист франшизы о Терминаторе. «Я думаю, что если с этой технологией что-то пойдет не так, то абсолютно все может пойти совсем не так, как мы предполагаем», — сказал он на слушаниях в Конгрессе в 2023 году. А в интервью 2023 года, он назвал ИИ «волшебным разумом в небе», фактически сравнив его с богом.

Для простых потребителей изменения в сфере технологий могут казаться несколько безумными. Люди привыкли к Twitter, полагаясь на него в плане новостей и общения. Затем Илон Маск купил его, превратил в X, изменил алгоритмы и в процессе разрушил платформу. Люди, вложившиеся в TikTok, готовы к тому, что, как и раньше, он может закрыться одним нажатием кнопки. Во многих случаях полагаться на технологии, доверять им — значит быть преданным ими. ИИ делает эту уязвимость еще более серьезной.

Люди всегда рискуют из-за самодовольных притязаний машин. Siri, Alexa и другие феминизированные боты — это маркетинговые уловки. Они притворяются кроткими и жизнерадостными, и они примерно так же способны стать «бессмертными диктаторами», как и их аналоги мужского пола.

К концу сезона «Кремниевой долины» стартап Pied Piper, кажется, готов к эпической победе. Компания заключила сделку с AT&T, чтобы использовать свой алгоритм в огромной сети более крупной компании. Он вот-вот появится на телефонах миллионов людей. Он вот-вот станет известным на весь мир. А потом — новый поворот. Алгоритм Pied Piper использует ИИ для повышения собственной эффективности, и алгоритм работает слишком хорошо.

Стартап создал децентрализованную сеть во имя «свободы». Можно сказать, что он создал машину, призванную принести пользу всему человечеству. Теперь эта сеть может привести и к уничтожению человечества. Она может прийти за электросетями. За приложениями, установленными в беспилотных автомобилях. За банковскими счетами, холодильниками и спутниками. Она может прийти за ядерными кодами.

Внезапно мы начинаем смотреть не просто комедию, а приключенческую драму. Парням придется делать трудный выбор от имени всех остальных. Это своего рода патернализм, власть, о которой они не просили и которую, по сути, не заслуживают. И сериал задается вопросом, будут ли они достаточно мудры, чтобы отказаться от своих амбиций — пожертвовать атрибутами успеха «технарей» — ради более стереотипно женских целей: защиты, самопожертвования, сострадания, заботы.

Если вы не видели финал, в котором все это происходит, то его стоит посмотреть. «Кремниевая долина» представляет собой версию головоломки, с которой сталкиваются реальные программисты, создавая машины, способные превращаться в монстров. Ставки высоки. В этом и суть. Опасения по поводу человечества — даже само слово «человечество» — стали настолько распространенными в дискуссиях об искусственном интеллекте, что рискуют превратиться в клише. Но, как предполагает сериал, человечество окажется под угрозой, когда человеческий интеллект станет скорее опцией, чем данностью. В какой-то момент все это закончится.

В «грядущем будущем человечества плюс искусственный интеллект» нам придется найти новые способы осмысления того, что значит быть человеком — и что мы хотим сохранить и защитить. Разработчикам придется смириться с тем, что они создали. Является ли ИИ инструментом или оружием? Это выбор или неизбежность? Хотим ли мы, чтобы наши машины были ласковыми? Или мы можем довольствоваться теми, которые не пытаются прикидываться хорошими людьми?