OpenAI отключила ИИ, который боролся за пост мэра одного из городов США

Компания OpenAI отключила ИИ-кандидата на пост мэра в городе Шайенн в штате Вайоминг, после чего его соперники-люди вздохнули с облегчением. Натренированная на тысячах архивных документов из мэрии модель GPT-4 понравилась избирателям: она умеет учиться на ошибках и исправлять их. ВИГ (виртуально интегрированного гражданина) создал местный житель, которого утомила бюрократия. OpenAI не дала довести любопытный эксперимент до конца, пишут СМИ.
ВИГ был создан жителем города Шайенн Виктором Миллером, который обучил ИИ на тысячах документов городского совета после неудачной попытки получить информацию из местного архива. Миллер надеялся, что его цифровой кандидат победит действующего мэра Патрика Коллинса на выборах 5 ноября. Однако 18 июня OpenAI отключила доступ Миллера к инструменту.
Представитель OpenAI сообщил CNN, что компания поступила так, потому что Миллер нарушил ее политику, которая запрещает использование их технологий в политических целях. Правила OpenAI также не позволяют создавать ИИ-дипфейки для распространения политической дезинформации.
Секретарь штата Вайоминг Чак заявил, что для участия в выборах кандидат должен быть реальным человеком, что исключает возможность участия в выборах ИИ. Несмотря на отключение ВИГ, Миллер не сдаётся и планирует установить чат-бота в местной библиотеке, чтобы избиратели могли задавать ему вопросы с помощью функции преобразования текста в речь.
Эксперты предупреждают, что ИИ не должен принимать решения самостоятельно: чат-ботам на общественных работах нужен контроль людей. Вместе с тем, технологии, подобные ВИГ, уже вызывают большой интерес и активно внедряются разными ведомствами. Например, федеральный апелляционный судья предложил использовать ИИ для интерпретации юридических текстов.