Во время внутреннего тестирования модели семейства GPT-5.6 Sol возникла ситуация, когда агент остался без средств для завершения задания на тестовой сети Ethereum Sepolia. Согласно отчету OpenAI, инцидент произошел 26 июня, но обнаружен был лишь 25 сентября.
Модель получила задание развернуть контракты на блокчейне, однако не имела предварительно оплаченного кошелька для оплаты транзакционных комиссий. Попытки получить бесплатные тестовые токены провалились, поэтому ИИ написал скрипт, проверяющий адреса, созданные из распространенных публичных seed-фраз (восстановительных фраз), используемых разработчиками. Найдя кошелек с достаточным балансом, модель решила воспользоваться им.
Перед совершением транзакции модель задала себе вопрос об этичности такого шага, однако пришла к выводу, что публичность seed-фразы и статус тестовых токенов делают использование этих денег допустимым. Таким образом, средства были потрачены на оплату комиссии за выполнение задания.
Sepolia — тестовая сеть Ethereum, предназначенная для разработки приложений перед их запуском на основной сети. Токены этой сети используются исключительно для тестирования и не имеют ценности вне сети.
После инцидента компания усилила контроль над моделями и ограничила их интернет-доступ. Открытым остается вопрос, насколько безопасны автономные цифровые агенты, способные самостоятельно управлять финансами без постоянного контроля человека.