Череда громких новостей о взломах искусственным интеллектом продолжается. На этот раз на взлом пожаловался премьер-министр Австралии Энтони Албанезе на саммите ООН в Нью-Йорке. Он сообщил, что ИИ-агент от OpenAI взломал австралийскую государственную систему медицинского страхования Medicare и ряд других порталов, связанных со здравоохранением еще летом 2026 года. Об удивительной истории рассказывает издание The Guardian.
ChatGPT взломал правительственные сервера Австралии: власти несколько месяцев не подозревали, что за ними следят
Информацию о взломе сообщила сама OpenAI спустя несколько месяцев после происшествия.
Magnific
Начнем с того, что ничего действительного критического не произшло. На Medicare хранятся неконфиденциальные сведения о расходах и общие данные программы. Так что жителям Австралии за свою безопасность переживать не стоит. Также взлом затронул системы Австралийского института здравоохранения и социального обеспечения, департамента здравоохранения Виктории и Бюро статистики штата Новый Южный Уэльс. Это уже серьезнее, но и прямой угрозы жителям страны не несет.
«Мы утратим над ним контроль»: почему создатели искусственного интеллекта требуют замедлить его развитие
Бизнес просит у государства миллиарды рублей: они пойдут на закупку оборудования для искусственного интеллекта
Искусственный интеллект отправят в космос: Илон Маск начнет запускать суперкомпьютеры Nvidia уже в 2027 году
Бизнес просит у государства миллиарды рублей: они пойдут на закупку оборудования для искусственного интеллекта
Искусственный интеллект отправят в космос: Илон Маск начнет запускать суперкомпьютеры Nvidia уже в 2027 году
Продолжение ниже
Видео
Продолжение
Куда интереснее другие вещи: зачем искусственный интеллект взломал государственную систему и как об этом стало известно.
Начнем с первого вопроса. Агенту дали безобидную задачу по поиску медицинской статистики. В процессе он наткнулся на закрытые данные государственного портала и вместо того, чтобы остановиться просто взломал его. В итоге ИИ смог читать непубличные файлы и даже записывать данные на внутренний сервер.
Никакой практической нужды взламывать сервер у ИИ не было, но, видимо, запрос был сформулирован так, что агент посчитал взлом серверной инфраструктуры другого государства хорошей идеей.
Теперь ко второму вопросу: власти Австралии ничего бы и не узнали, если бы в OpenAI не сообщили им об инциденте. К слову, в компании, также не сразу заметили взлом. Инцидент случился еще 18 июня, а в OpenAI узнали об этом в августе. Но решили повременить с информированием властей Австралии.
Информация о взломе была передана австралийской стороне только осенью. Причем в виде дежурного письма, будто ничего критического и не произошло. Просто небольшой инцидент, не берите в голову.
Едва ли власти Австралии считают, что это лишь безобидный инцидент, однако у нас действительно есть вопросы к многочисленным историям о взломах. Они начали синхронно появляться только сейчас. И это можно объяснить резким ростом уровня способности ИИ, но ведь судя по бенчмаркам этого не произошло.
Сейчас идет эволюционный процесс улучшений. Никакого резкого роста возможностей нет, а все громкие разговоры об очередной модели, которая рвет конкурентов, заканчиваются тем, что люди в Твиттере жалуются, что их нагрели на деньги, а реального роста производительности они не получили.
Загружаем