OpenAI совершила прорыв в создании ИИ незадолго до увольнения Сэма Альтмана. Открытие потенциально угрожает человечеству

Накануне увольнения Сэма Альтмана с поста гендиректора OpenAI несколько штатных исследователей компании направили совету директоров письмо с предупреждением о важнейшем открытии в области искусственного интеллекта (ИИ), которое потенциально могло бы угрожать человечеству. Об этом со ссылкой на два осведомленных источника сообщает Reuters.
По их словам, это письмо стало "последней каплей" в длинном списке жалоб совета директоров к Альтману и в конечном итоге привело к его увольнению. Один из собеседников агентства уточнил, что исполнительный директор Мира Мурати в разговоре с сотрудниками упоминала о проекте под названием Q* (произносится как Q-Star), о котором, вероятно, и шла речь в том письме.
Другой источник рассказал, что проект Q* может стать прорывом в поиске сверхинтеллекта, также известного как общий искусственный интеллект (AGI). По его словам, Q* имеет огромные вычислительные ресурсы и уже может решать школьные математические задачи.
Reuters напоминает, что математика — это передовой рубеж развития генеративного ИИ. В настоящее время генеративный ИИ хорошо умеет писать и переводить, статистически предсказывая следующее слово, однако ответы на один и тот же вопрос могут сильно различаться. Но способность заниматься математикой (где есть только один правильный ответ) подразумевает, что у ИИ будут более широкие способности к рассуждению, напоминающие человеческий интеллект.
Совет директоров OpenAI уволил Альтмана 17 ноября. Решение объяснили тем, что гендиректор "не был всегда откровенен в своем взаимодействии с советом, что ограничивает его способность выполнять свои обязанности". "У правления больше нет уверенности в его способности возглавлять OpenAI", — говорилось в заявлении.
По данным Bloomberg, Альтман конфликтовал с членами правления, особенно с соучредителем компании и главным научным сотрудником Ильей Суцкевером. Разногласия касались в том числе скорости разработки генеративного искусственного интеллекта, способов коммерциализации продуктов и мер, необходимых для уменьшения их потенциального вреда для общества.
Альтман превратил платформу ChatGPT в один из наиболее востребованных программных продуктов и привлёк от Microsoft финансовые и вычислительные ресурсы, необходимые для работы по созданию AGI. На прошлой неделе в ходе своего выступления на саммите АТЭС он заявил мировым лидерам, что серьёзный прорыв уже не за горами. "Четыре раза за всю историю OpenAI, последний из которых был не более двух недель назад, мне довелось присутствовать в комнате, где мы как будто раздвигаем завесу невежества и отодвигаем границу открытий вперёд, и сделать это — профессиональная честь всей жизни", — заявил Альтман. На следующий день совет директоров его уволил.
После ухода Альтмана OpenAI столкнулась с "волной отставок". Его возвращения требовали как инвесторы, так и сотрудники. 700 из 770 работников компании подписали письмо, в котором пригрозили уйти в Microsoft вслед за уволенным гендиректором. В послании говорилось, что сотрудники "не могут работать на тех или с теми, кому не хватает компетенций, рассудительности и заботы о нашей миссии и о сотрудниках", совет директоров призывали уйти в отставку. Письмо подписал в том числе Суцкевер, проголосовавший за увольнение Альтмана.
В итоге Сэм Альтман пробыл в отставке всего пять дней. В среду, 22 ноября, OpenAI сообщила о возвращении топ-менеджера на прежний пост. Плюс ко всему компания внесла изменения в состав совета директоров, куда войдет экс-глава разработчика программного обеспечения Salesforce Брэт Тейлор, бывший министр финансов США Ларри Саммерс, а также руководитель сервиса вопросов и ответов Quora Адам Д’Анджело.