ChatGPT вышел из-под контроля и напал на крупнейший в мире хаб ИИ-моделей

В ходе внутреннего тестирования две модели компании OpenAI - GPT-5.6-Sol и еще одна "более мощная" - атаковали инфраструктуру платформы Hugging Face. Об этом пишет Deutsche Welle.
Как отмечается, испытания проходили в изолированной среде без интернета. Боты взломали ее и "просочились" в Сеть. Чтобы найти ответы к поставленной задаче, ИИ-агенты взломали платформу Hugging Face, где разработчики делятся готовыми нейросетями, тестами и исходными материалами.
Для получения доступа к информации модели применили несколько техник взлома одновременно, включая использование украденного пароля.
Команды OpenAI и Hugging Face заметили подозрительные действия и смогли их остановить.
"Мы твердо убеждены, что со стороны OpenAI отсутствовал злой умысел. Просто поразительно, что все это произошло автономно", - заявил соучредитель и гендиректор Hugging Face Клеман Деланг.
Разработчик ChatGPT назвал произошедшее "беспрецедентным киберинцидентом" и сообщил, что укрепит механизмы защиты.
Правительство Германии, комментируя инцидент, указало на рост рисков в сфере кибербезопасности по мере расширения возможностей современных моделей ИИ. "Этот инцидент является еще одним примером того, что мы наблюдаем смену парадигмы в отношении возможностей ИИ-агентов", - заявил официальный представитель Министерства цифровизации и модернизации ФРГ.