Глава OpenAI Сэм Альтман заявил, что общество должно принять часть негативных последствий развития искусственного интеллекта в обмен на бонусы, которые дает ИИ человечеству. Его слова вызвали критику американских политиков, в том числе губернатора Флориды Рона Десантиса.
Общество должно смириться: Сэм Альтман призвал людей потерпеть ради светлого ИИ-будущего
Да, сейчас есть проблемы, но в будущем все будет так классно и круто, что не передать словами.
Magnific
В интервью Politico Альтман объяснил, что одним из различий между OpenAI и сторонниками более жесткого подхода к безопасности ИИ считает отношение к допустимому уровню риска.
Продолжение ниже
Видео
Продолжение
По его словам, OpenAI выступает за более мягкий подход к регулированию и не считает реалистичным сценарий, при котором развитие ИИ допускается только при полной гарантии отсутствия крупных взломов, мошенничества и других злоупотреблений.
Альтман подчеркнул, что ожидает от технологии значительно больше полезных применений, чем вредных. При этом он отдельно связывал свою позицию с вопросом свободы доступа к ИИ и выступал против ситуации, при которой одна компания или небольшая группа разработчиков самостоятельно решает, кому и как можно использовать наиболее мощные системы.
Высказывание Альтмана появилось на фоне судебного конфликта между властями Флориды и OpenAI. В сентябре генеральный прокурор штата Джеймс Утмайер попросил суд временно ограничить деятельность компании на время рассмотрения ранее поданного иска.
Среди требований — запретить OpenAI разрабатывать новые модели без независимых сторонних мер безопасности и одобрения, ограничить доступ несовершеннолетних к ChatGPT и запретить некоторые способы представления чат-бота как человекоподобного собеседника.
Это пока лишь требование прокуратуры: суд не удовлетворял его и окончательного решения по нему нет. Основной иск Флорида подала в июне, обвинив OpenAI в нарушении законодательства о защите потребителей и недостаточных мерах безопасности. Компания эти претензии оспаривает.
Дискуссия о допустимых рисках ИИ обострилась и внутри самой OpenAI. В начале октября компанию покинул Дэвид Робинсон, который более трех лет занимался вопросами безопасности, участвовал в подготовке Preparedness Framework и курировал отчеты по безопасности для 12 запусков передовых моделей.
После увольнения он опубликовал эссе под заголовком «Я ушел из OpenAI, потому что ее культура сломана». Робинсон раскритиковал подход компании, основанный на так называемом iterative deployment — постепенном выпуске систем с последующим исправлением выявленных проблем.
По его мнению, метод проб и ошибок становится все более рискованным по мере роста возможностей моделей. Робинсон предложил ориентироваться на отрасли вроде авиации и атомной энергетики, где опасные системы проектируются с несколькими уровнями защиты и резервирования.
Загружаем