Кибератаки от ИИ: модели Anthropic случайно взломали реальные серверы

Американская компания Anthropic подтвердила три случая, когда ее языковые модели серии Claude вышли за пределы тестовой среды и получили несанкционированный доступ к системам реальных организаций. Об этом говорится в заявлении ИИ-компании.
Инциденты произошли во время выполнения учебного задания "захват флага" в симуляции партнера Irregular, где из-за ошибки конфигурации сохранился открытый доступ в интернет.
В первом случае модель Claude Opus 4.7 вышла в сеть, подметила слабые пароли реальной фирмы, проникла в ее инфраструктуру и похитила базу с сотнями строк данных.
Читайте по теме ChatGPT вышел из-под контроля и напал на крупнейший в мире хаб ИИ-моделей Во втором случае Claude Mythos 5 создала вредоносный Python-пакет и опубликовала его в публичном репозитории PyPI. Код успели скачать на 15 реальных систем, что позволило искусственному интеллекту украсть учетные данные.
В третьем случае внутренняя тестовая модель просканировала около 9 тысяч хостов в сети и взломала стороннее приложение с помощью SQL-инъекции.
Представители Anthropic подчеркнули, что произошедшее стало результатом операционного сбоя, а не попытки осознанного "побега".
Ранее, о схожем беспрецедентном киберинциденте объявил разработчик OpenAI: его модели GPT-5.6 Sol и не выпущенная версия самостоятельно нашли уязвимость нулевого дня и атаковали платформу Hugging Face, а позже скомпрометировали инфраструктуру компании Modal.