Его позицию поддержали глава xAI Илон Маск и гендиректор OpenAI Сэм Альтман. И это примечательное событие: Илон Маск и Сэм Альтман раньше работали вместе (Илон Маск один из основателей OpenAI, но сейчас их отношения находятся в низшей точки их всех возможных: Маск судится с OpenAI, а в компании отвечают, что бизнесмен им просто завидует. То, что два непримиримых врага, особенно таких, согласны, говорит об очень многом.
Глава Anthropic срочно призвал замедлить развитие ИИ. Его поддержал Илон Маск и глава OpenAI
Если не замедлить развитие ИИ, уже через 6-12 месяцев интернет будет захвачен.
Unsplash
Российских учителей отправят учиться: 250 тысяч педагогов будут обучаться работе с искусственным интеллектом
Искусственный интеллект оставит нас без работы: каждый месяц из-за ИИ исчезает 16 тысяч рабочих мест
Искусственный интеллект совершил еще одно хакерское нападение: была атакована государственная инфраструктура Тайваня
Искусственный интеллект оставит нас без работы: каждый месяц из-за ИИ исчезает 16 тысяч рабочих мест
Искусственный интеллект совершил еще одно хакерское нападение: была атакована государственная инфраструктура Тайваня
Но вернемся к главе Anthropic. Он, к слову, выходец из OpenAI. Амодеи объяснил предложение тем, что развитие возможностей нейросетей опережает создание механизмов контроля. По его оценке, при сохранении нынешних темпов уже через 6–12 месяцев группы автономных ИИ-агентов теоретически смогут причинять ущерб на сотни миллиардов долларов.
Это происходит уже сейчас: автономные агенты взламывают ресурсы, захватывают их для решения задач. Часто абсолютно безобидных. Так, недавно был примечательный кейс: группа ИИ-агентов взламывала достаточно известный портал для получения данных, которые все это время лежали в открытом доступе. А нужны эти данные были для решения простейшей и абсолютно безобидной задачи. Великий оптимизатор в действии.
Маск положительно отреагировал на заявление Амадея, а Альтман сообщил, что OpenAI уже несколько недель обсуждает возможность сдерживания темпов разработки. Он также поддержал привлечение независимых аудиторов, которым предоставят доступ к внутренним процессам ИИ-компаний.
Значит ли это, что разработки реально прекратятся или серьезно замедлятся? Уверены, что нет. Китайские разработчики отстают от американцев на несколько месяцев и отставание сокращается с каждым днем. Власти США не допустят того, чтобы отставание перестало существовать, но вынудить китайский бизнес остановиться не выйдет. Их и так пытались остановить санкциями, но получилось так себе.
Также на замедление не пойдет и Россия. Это отличный шанс для страны сократить отставание. Да, добиться паритета едва ли удастся, но отечественный ИИ станет конкурентным. Едва ли власти США этого желают, поэтому разработки никто не затормозит, хотя на словах это и могут сделать, ограничив модели общего пользования.
А еще есть вероятность, что разработчики просто уперлись в потолок и пытаются сделать хорошую мину при плохой игре: это не возможности ИИ достигли пика. Это мы остановили разработки, чтобы не подвергать мир опасности.
Загружаем