Издание пишет, что в последнее время все больше исследователей открыто выражают свою обеспокоенность из-за недостаточного контроля за развитием нейросетей: ИИ растет и обучается так быстро, что с точностью предсказать результат этого невозможно.
Ведущие разработчики ИИ массово уходят с работы: их пугает непредсказуемость нейросетей
Все больше специалистов заявляют о наличии экзистенциальной угрозы, исходящей от ИИ.
Freepik
Стремительное развитие технологий искусственного интеллекта, как оказалось, пугает даже их создателей. По данным Axios, ведущие специалисты компаний OpenAI и Anthropic, продвигающих собственные большие языковые модели, начали покидать корпорации.
Так, например, последние версии чат-ботов ChatGPT и Claude уже способны похвастаться большим уровнем самостоятельности – к примеру, они способны без участия человека создавать и совершенствовать сложные продукты. Так, одна из моделей OpenAI участвовала в собственном обучении, а у инструментов Anthropic наблюдаются предпосылки к автономному развитию. При этом у разработчиков практически нет представления о том, как вернуть этот процесс под контроль.
Руководство компаний пока еще сохраняет оптимизм относительно сложившейся ситуации, в то время как разработчики признают потенциальные риски. Так, в Anthropic вышел доклад, в котором отмечается: искусственный интеллект может применяться в тяжких преступлениях и даже при создании химического оружия, хотя на данный момент вероятность этого не столь велика. Кроме того, опасения вызывает и влияние, которое нейросети способные оказать на крупные секторы экономики и ряд отраслей, включая создание программного обеспечения и юридические услуги. «Все это ведет к активному и серьезному самоанализу», — пишет Axios.
В OpenAI же расформировали команду, которая отвечала за «выравнивание» технологий ИИ. Некоторые сотрудники уволились самостоятельно, сославшись на этические соображения и экзистенциальную угрозу, которую представляют для человечества технологии искусственного интеллекта. Джейсон Калаканис, инвестор в сфере технологий и соведущий подкаста All-In написал в своем аккаунте в Х: «Я никогда не видел, чтобы столько разработчиков так решительно, часто и с такой обеспокоенностью выражали свои опасения, как в случае с ИИ».
Ранее мы рассказывали, что больших языковых моделей появилась собственная биржа, на которой они могут «арендовать» людей для выполнения задач в реальном мире. Сайт Rent a Human предлагает пользователям выступить в качестве фрилансеров и либо разместить резюме с описанием своих навыков, либо откликнуться на задания, уже размещенные ИИ. Речь может идти о самых разных услугах – от просьбы потрогать траву в парке и описать свои ощущения до дегустации нового меню итальянского ресторана с подробным отзывом и рекомендациями. За все задания предлагается вознаграждение, которое обычно составляет от нескольких десятков до сотен долларов в зависимости от сложности.