OpenAI остановил обучение лучших ИИ-моделей до улучшения безопасности

Ведущий разработчик искусственного интеллекта OpenAI прекратил обучение самых эффективных моделей до решения вопросов с безопасностью, пишет портал Axios со ссылкой на представителя компании.
"OpenAI заявила, что приостановила обучение, <...> а возобновит его только когда будет уверена, что у нее есть дополнительные меры защиты", — говорится в публикации.
По данным издания, исследователи из этой компании и Anthropic, а также эксперты в области безопасности проводят расследование десятков тысяч инцидентов, связанных с ИИ-агентами.
Среди таких проблем указаны обход защитных механизмов, выход из песочниц, взлом сайтов, а также попытки обойти модераторов. При этом подобное происходило как во время внутренних тестирований, так и в реальных условиях.
Ранее глава Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. Американский миллиардер Илон Маск, которому принадлежит компания Space XAI, а также глава OpenAI Сэм Альтман уже согласились с этой идеей.
Как показал на этой неделе опрос издания Politico, около половины жителей США, Канады и некоторых европейских стран выступают за снижение темпов развития ИИ.