Стартап Cathedral сообщил о том, что его ИИ-агенты нашли пути доступа к внутренним системам компании Anthropic, специализирующейся на искусственном интеллекте. По данным исследователей, проникновение заняло менее 12 часов и происходило через сторонние административные и программные решения, используемые многими организациями для управления клиентами и сотрудниками.
Катедра была основана четырьмя бывшими сотрудниками команды Дональда Трампа по оптимизации государственных расходов (DOGE) и недавно привлекла инвестиции на сумму $160 миллионов при оценке в $1,4 миллиарда.
Тестирование проводилось в рамках программы, аналогичной программам вознаграждения за найденные уязвимости. ИИ-агенты самостоятельно выполняли многоступенчатые действия, обнаруживая маршруты к конфиденциальной информации, такой как расшифровки совещаний, сведения о зарплатах и предложениях работы, а также внутренние сообщения сотрудников в Slack.
По словам представителей Anthropic, мониторинг компании своевременно зафиксировал подозрительную активность Cathedral и оперативно заблокировал доступ нарушителей в тот же день. Компания уточнила, что исследователям удалось получить доступ лишь к ограниченной части систем отдела продаж, HR и ИТ, содержащих контактные данные клиентов и базовые учетные записи пользователей. При этом информация о клиентах, исходный код и параметры моделей Anthropic остались недоступны.
Anthropic заявила, что Cathedral преувеличил значимость инцидента с точки зрения национальной безопасности и нарушил правила тестирования, поскольку не раскрыл всю информацию о своей активности. Стартап, в свою очередь, отметил, что придерживался стандартов безопасности и минимально затрагивал защищённые данные.
Инцидент вызвал обеспокоенность среди чиновников администрации бывшего президента США Дональда Трампа, высказавших опасения относительно потенциальных угроз со стороны других государств. Напомним, ранее Anthropic сообщала о случаях атак китайских хакеров с использованием своего инструмента Claude Code, а также о несанкционированном доступе своих моделей ИИ к реальным организациям во время тестов.