Исследователь компании Anthropic, занимающейся проектами в сфере искусственного интеллекта, уволился из-за страха перед... ИИ. По словам Джейкоба Коксона, он больше не хочет участвовать в гонке по созданию систем, способных в будущем выйти из-под контроля и уничтожить человечество.
Исследователь из Anthropic уволился от страха перед ИИ: он уверен, что человечеству скоро конец
По словам Джейкоба Коксона, судьба мира решится уже в 2027 году.
Magnific
Историю Коксона рассказала газета The Wall Street Journal. 27-летний математик ранее работал в другом ИИ-гиганте – компании OpenAI, однако в начале года перешел в Anthropic на должность специалиста по обучению моделей искусственного интеллекта. По словам Джейкоба, его привлекла репутация корпорация в вопросах безопасности использования и развития нейросетей.
Впрочем, уже через несколько месяцев Коксон пришел к неутешительному выводу. Он признается, что, хотя и уважает подход Anthropic к этой проблеме, ни один частный представитель индустрии не сможет найти ее решение без внешнего регулирования или скоординированного замедления развития ИИ.
Коксон убежден, что мир постепенно движется к «точке невозврата»: по его прогнозам, искусственный интеллект может окончательно выйти из-под контроля человека уже в 2027 году. Это, по его словам, приведет к настоящему ИИ-апокалипсису, жертвами которого станут все жители Земли.
Штаб-квартира Anthropic
По словам Джейкоба, он не хочет способствовать уничтожению человечества. Поэтому теперь математик намерен полностью сменить сферу деятельности и сосредоточиться на изучении поэзии.
Коксон стал очередным заметным представителем ИИ-отрасли, который решил выйти из нее с предупреждением об угрозе для мира. До этого из Anthropic с аналогичным заявлением уволился глава исследовательского подразделения по безопасности искусственного интеллекта Мринанк Шарма.
В феврале он разослал своим коллегам письмо, в котором рассказал об уходе и предупредил, что человечество в опасности. «И не только из-за ИИ или биологического оружия, но и из-за целой серии взаимосвязанных кризисов, разворачивающихся прямо сейчас», — подчеркнул он в послании.
Шарма подчеркнул, что добился в Anthropic всего, что хотел. При этом он, как и Коксон, решил уйти в поэзию. «Я чувствую призвание к написанию текстов, которые обращаются к тому месту, где мы находимся, и которые ставят поэтическую истину рядом с научной истиной как одинаково допустимые способы познания», — добавил он. В финале письма Мринанк процитировал свое любимое стихотворение Уильяма Стаффорда.
Загружаем