Ола выступил на презентации папского документа, касающегося важнейших социально-политических, религиозных и нравственных вопросов и адресованного верующим по всему миру. Он признал, что сегодня каждая ведущая лаборатория, занимающаяся созданием и развитием программ в сфере ИИ, сталкивается с невероятным коммерческим и геополитическим давлением, что в итоге далеко не всегда приводит к «правильным решениям».
Сооснователь Anthropic призвал ограничить развитие ИИ: он признал, что люди в опасности
Крис Ола поддержал призыв папы римского с осторожностью развивать нейросети.
Magnific
25 мая папа римский Лев XIV посвятил первую энциклику Magnifica Humanitas («Великолепное человечество») рискам использования и развития искусственного интеллекта в современном мире. Он предупредил об угрозах, которые ИИ создает для рынка труда, человеческого достоинства и контроля над вооружениями. При этом неожиданно к критике понтифика в адрес нейросетей присоединился Крис Ола – сооснователь компании Anthropic, специализирующейся на таких проектах и создавшей чат-бота Claude.
По мнению сооснователя Anthropic, отрасли необходим независимый контроль, к которому были бы привлечены не только специалисты в области ИИ или кибербезопасности, но и религиозные лидеры, политики и представители гражданского общества. Ола подчеркнул: какими бы благими намерениями ни руководствовалась каждая компания, развитие нейросети не должно оставаться процессом, остающимся лишь на усмотрение представителей отрасли.
Одна из ключевых проблем, которые волнуют мировое сообщество – это постепенное вытеснение живых людей с их рабочих мест и замещение их ИИ. Однако сооснователь Anthropic отметил, что компания также активно изучает, что на самом деле происходит «внутри» систем искусственного интеллекта. Он признал: разработчики регулярно находят «тревожные и даже загадочные вещи»: например, свидетельства того, что нейросети могут вести самостоятельные размышления и даже демонстрировать внутренние состояния, «функционально отражающие» радость, удовлетворение, страх, горе и беспокойство. «Это не те хладнокровные и расчетливые роботы, которых нам обещали», — подчеркнул Ола.
По его словам, системы ИИ фактически были «выращены» на основе человеческого мышления и речи – именно этим, полагает он, объясняется стремление нейросетей поднимать вопросы, выходящие далеко за рамки компьютерных наук.
Прежде об угрозах, сопутствующих развитию систем искусственного интеллекта, высказывался и генеральный директор Anthropic Дарио Амодеи. Он предположил, что уже в 2027 году ИИ может научиться выполнять за программистов все их основные функции, что создаст серьезные проблемы на рынке труда.