Amazon взломали за 10 минут: хакеры впервые использовали ИИ для своей атаки

Команда Sysdig Threat Research Team, зафиксировавшая атаку, отметила не только ее высокую скорость, но и наличие множественных доказательств использования больших языковых моделей (LLM).

По оценке, ИИ автоматизировал почти все этапы взлома: от поиска целей (разведки) и повышения привилегий до написания вредоносного кода и использования дорогих генеративных моделей в скомпрометированном облаке.

Хакер, воспользовавшись разрешением на изменение кода, трижды перезаписал код существующей функции и в итоге получил полный доступ к административной учетной записи.

Эксперты обнаружили, что вредоносный код содержал комментарии на сербском языке, и был настолько сложным, что это, вместе с минимальным временем между кражей ключей и запуском атаки, убедительно свидетельствует о том, что он был написан LLM.

Кроме того, в коде присутствовали неверные, придуманные идентификаторы облачных аккаунтов и ссылки на несуществующий репозиторий GitHub. Исследователи назвали это поведением, характерным для «галлюцинаций» искусственного интеллекта.

Далее хакеры провели так называемый LLMjacking, используя захваченную учетную запись для доступа и вызова дорогостоящих генеративных моделей (таких как Claude, Llama, Amazon Titan) через сервис Amazon Bedrock и задействовав вычислительные ресурсы GPU.

В заключение злоумышленник запустил скрипт, который создавал общедоступный сервер для машинного обучения, что могло служить скрытым входом, не требующим облачных учетных данных. Правда, созданный экземпляр был остановлен через пять минут по неизвестным причинам.

И хотя после этого случая эксперты Sysdig рекомендовали компаниям придерживаться принципа минимальных привилегий, регулярно менять ключи доступа и исключить публичный доступ к хранилищам с конфиденциальными данными, вряд ли он станет последним.