Как обуздать "бунт" ИИ? В США предложили механизм его экстренного отключения

Американский конгрессмен-демократ Тед Лью и его коллега-республиканец Натаниэль Моран представили законопроект об "аварийном отключении" искусственного интеллекта (AI Kill Switch Act), пишет DW.
Это стало реакцией на инциденты, когда во время тестов в автономной среде ИИ вырывался в интернет и атаковал сторонние системы. Конгрессмены хотят, чтобы Министерство внутренней безопасности США получило право требовать от частных компаний остановить работу ИИ-модели, если та вышла из-под контроля. Проект закона также требует, чтобы ИИ-фирмы оперативно отчитывались властям о подобных "бунтах".
"Крайне важно, чтобы системы ИИ были оснащены аварийными выключателями. Чтобы мы могли предотвратить нанесение этой технологией катастрофического ущерба, а также чтобы федеральное правительство обладало четкими полномочиями и процедурами для отключения вышедших из-под контроля моделей ИИ", - подчеркнул Тед Лью.
Параллельно с этим законопроектом группа из шести конгрессменов США от обеих партий предложила еще один. Он предполагает, что разработчики наиболее мощных ИИ-моделей должны проходить независимые проверки безопасности своих систем. Для этого предлагается ввести независимых аудиторов безопасности ИИ. Назначать этих проверяющих и следить за их работой должен Минторг США.