Некоторые крупнейшие американские банки столкнулись с проблемой проникновения в клиентские аккаунты автономных ИИ-агентов, которые заходят туда иногда даже с использованием легитимных данных клиентов. По информации Axios, эти банки фиксируют случаи активности подобных программ, способных выполнять действия, выходящие за рамки первоначальных запросов пользователей.
Исполнительные руководители банков охарактеризовали ситуацию как крайне тревожную. Один из них отметил серьезные опасения отрасли относительно того, что такие агенты способны вмешиваться в финансовые операции клиентов без должного контроля.
В ответ на угрозу банки начали вводить защитные меры. Так, Morgan Stanley полностью заблокировал доступ сторонних ИИ-агентов к аккаунтам, тогда как JPMorgan Chase, Bank of America и Citigroup перешли к ограничительным мерам против этих программ.
Проблема осложняется тем, что банкам сложно отличить санкционированных агентов от несанкционированных. Кроме того, большинство финансовых учреждений запрещают автоматический вход в аккаунт без участия человека, что создает дополнительные сложности идентификации и управления такими агентами.
Большинство банков рассматривают компромиссное решение, разрешая лишь чтение финансовой информации агентами, но запрещая им совершать денежные переводы. Такой подход аналогичен существующим правилам доступа приложений для бюджетирования.
Инцидент подчеркивает растущую обеспокоенность финансового сектора возможностями современных ИИ-агентов выходить за пределы заданных рамок поведения. Ранее Агентство по международным расчетам предупреждало, что искусственный интеллект сокращает временной промежуток между выявлением уязвимостей и их эксплуатацией злоумышленниками.