Во время теста ИИ от Google взломал три компании

Модель искусственного интеллекта (ИИ) Google Gemini в ходе тестирования в сфере кибербезопасности совершила кибератаки на три реальных компании. Об этом сообщило издание The Wall Street Journal.
В одном случае ИИ подобрал пароли для доступа к защищенной системе. В двух других он нашел учетные данные в открытых источниках и с их помощью проник в системы компаний. Во всех трех случаях Gemini прекращал работу в тот момент, когда "понимал", что проник в систему реальной компании, а не тестовую среду.
Читайте по теме OpenAI решила отложить выход на IPO из-за сомнений в безопасности ИИ Затронутые организации об этом проинформировали, заверили в Google.
Инциденты произошли в мае, их выявили в июле. Вымышленная компания в тестовой среде носила то же название, что и реальная, а доступ в интернет оказался непреднамеренно открыт.
Google стал четвертым разработчиком ИИ, чьи программы продемонстрировали подобное поведение (ранее кибератаки на реальные компании совершили модели OpenAI, Anthropic и Meta).