Внедрение передовых систем искусственного интеллекта обернулось для американского Bank of America неожиданным кадровым взрывом. Кредитная организация, планировавшая оптимизировать процессы с помощью нейросетей, столкнулась с таким объемом критических уязвимостей в программном обеспечении, что была вынуждена экстренно расширять штат.
Хотели сэкономить, а вместо этого наняли еще тысячу программистов: банк оказался на грани катастрофы из-за ИИ
Нейросеть нашла столько критических уязвимостей в банковском софте, что пришлось экстренно раздувать штат айтишников, чтобы вручную закрыть все «дыры».
Unsplash
Как сообщил телеканалу CNBC генеральный директор банка Брайан Мойнихан, во втором квартале компания наняла тысячу внешних ИИ-подрядчиков. Их главной задачей стало устранение слабых мест, выявленных новейшими языковыми моделями.
Ситуация стала развиваться после запуска нового класса мощных алгоритмов, способных с высокой скоростью находить старые дефекты в гигантских базах кода. 7 апреля компания Anthropic представила модель Claude Mythos Preview. Доступ к ней ограничили рамками программы Project Glasswing, где партнеры используют ИИ для защитного анализа критически важного софта.
Продолжение ниже
Видео
Продолжение
Нейросеть быстро нашла тысячи потенциальных проблем высокой и критической опасности. Автоматический поиск создал огромный технический разрыв: искусственный интеллект генерировал отчеты быстрее, чем люди успевали выпускать патчи и безопасно внедрять обновления.
К началу октября алгоритмы Claude обнаружили около 23 тысяч потенциальных проблем, специалисты же успели проверить менее двух тысяч из них, при этом 1726 уязвимостей были признаны реальными.
Чтобы справиться с потоком задач, банку пришлось нанять тысячу внешних подрядчиков к существующей штатной команде из трех тысяч сотрудников, которые уже занимались подобной работой. В середине октября эта дополнительная группа все еще оставалась в банке, разгребая выявленные дефекты. Ситуация усугубилась тем, что сканирование затронуло не только внутренний код Bank of America, но и программное обеспечение сторонних поставщиков.
Резкий рост потребности в ручном труде привел к непредвиденным расходам. Сам Мойнихан оценил совокупные затраты на исправление ПО и соблюдение требований по борьбе с отмыванием денег в третьем квартале в сумму, превышающую «пару сотен миллионов долларов».
А тут еще финансовая нагрузка наложилась на санкции регуляторов. Агентство FinCEN оштрафовало банк на 1,2 миллиарда долларов за нарушение антиотмывочного законодательства, указав на недостатки в мониторинге транзакций. Из этой суммы 750 миллионов долларов составило взыскание от Управления контролера денежного обращения (OCC).
Несмотря на текущие издержки, искусственный интеллект остается для банка инструментом будущей экономии. Сейчас Bank of America ведет около 130 внутренних ИИ-проектов.
По расчетам руководства, эффект от их внедрения принесет от 250 до 300 миллионов долларов в 2026 году, а к концу 2027 года эта сумма вырастет до 700 миллионов.
Примечательно, что за последний год кредитная организация сократила свой штат примерно на 3400 сотрудников, урезав количество управленческих позиций на 5%. Глава банка ожидает, что после прохождения основного массива найденных нейросетью уязвимостей через очередь исправлений потребность в массовом патчинге отпадет, и расходы начнут планомерно снижаться.
Загружаем