Ола выступил на презентации папского документа, касающегося важнейших социально-политических, религиозных и нравственных вопросов и адресованного верующим по всему миру. Он признал, что сегодня каждая ведущая лаборатория, занимающаяся созданием и развитием программ в сфере ИИ, сталкивается с невероятным коммерческим и геополитическим давлением, что в итоге далеко не всегда приводит к «правильным решениям».
Сооснователь Anthropic призвал ограничить развитие ИИ: он признал, что люди в опасности
Крис Ола поддержал призыв папы римского с осторожностью развивать нейросети.
Magnific
25 мая папа римский Лев XIV посвятил первую энциклику Magnifica Humanitas («Великолепное человечество») рискам использования и развития искусственного интеллекта в современном мире. Он предупредил об угрозах, которые ИИ создает для рынка труда, человеческого достоинства и контроля над вооружениями. При этом неожиданно к критике понтифика в адрес нейросетей присоединился Крис Ола – сооснователь компании Anthropic, специализирующейся на таких проектах и создавшей чат-бота Claude.
По мнению сооснователя Anthropic, отрасли необходим независимый контроль, к которому были бы привлечены не только специалисты в области ИИ или кибербезопасности, но и религиозные лидеры, политики и представители гражданского общества. Ола подчеркнул: какими бы благими намерениями ни руководствовалась каждая компания, развитие нейросети не должно оставаться процессом, остающимся лишь на усмотрение представителей отрасли.
Продолжение ниже
Видео
Продолжение
Одна из ключевых проблем, которые волнуют мировое сообщество – это постепенное вытеснение живых людей с их рабочих мест и замещение их ИИ. Однако сооснователь Anthropic отметил, что компания также активно изучает, что на самом деле происходит «внутри» систем искусственного интеллекта. Он признал: разработчики регулярно находят «тревожные и даже загадочные вещи»: например, свидетельства того, что нейросети могут вести самостоятельные размышления и даже демонстрировать внутренние состояния, «функционально отражающие» радость, удовлетворение, страх, горе и беспокойство. «Это не те хладнокровные и расчетливые роботы, которых нам обещали», - подчеркнул Ола.
По его словам, системы ИИ фактически были «выращены» на основе человеческого мышления и речи – именно этим, полагает он, объясняется стремление нейросетей поднимать вопросы, выходящие далеко за рамки компьютерных наук.
Прежде об угрозах, сопутствующих развитию систем искусственного интеллекта, высказывался и генеральный директор Anthropic Дарио Амодеи. Он предположил, что уже в 2027 году ИИ может научиться выполнять за программистов все их основные функции, что создаст серьезные проблемы на рынке труда.
Загружаем