Глава чипмейкера Arm боится захвата ИИ контроля над человеком

Глава британского чипмейкера Arm Рене Хаас заявил, что его самый большой страх, касающийся развития искусственный интеллекта (ИИ), — что он получит контроль над человеком. "Должна быть какая-то кнопка отмены, черный ход, способ отключить систему", — заявил он. По мнению Хааса, с развитием ИИ будет связана новая революцией в мире технологий, он "изменит все за следующие 5-10 лет", пишет Forbes.
Глава британской Arm Holdings Рене Хаас заявил, что его самый большой страх, касающийся развития искусственный интеллекта (ИИ), — что он получит контроль над человеком. "Больше всего меня беспокоит то, что люди теряют возможности (по сравнению с машинами)", — рассказал Хаас в интервью Bloomberg. "Должна быть какая-то кнопка отмены, черный ход, способ отключить систему", — добавил он.
Вместе с тем с развитием ИИ будет связана новая революцией в мире технологий, уверен Хаас. "Я думаю, это повлияет на все, что мы делаем, на каждый аспект того, как мы работает, живем, играем, — сказал глава компании. — Он (ИИ) изменит все за следующие 5-10 лет".
Arm намерен сыграть в этой революции ключевую роль, заявил Хаас (по его оценкам, 70% населения планеты так или иначе соприкасались с разработками Arm). Хаас, который возглавил компанию в феврале прошлого года, старается снизить ее зависимость от сокращающейся индустрии смартфонов и расширить использование ее технологий в других областях — например, в серверах, компьютерах и эдектрокарах.
Arm, которая занимается разработкой микропроцессоров, в этом году вышла на IPO в Нью-Йорке и привлекла $54,5 млрд. Акции компании на закрытии торгов на Nasdaq в пятницу торговались по $67,23, за день они подорожали на 7,67%
Хаас — не первый, кто высказывает опасения из-за развития искусственного интеллекта. В марте сооснователь Apple, один из пионеров в области компьютерных технологий Стив Возняк, глава SpaceX и Tesla Илон Маск и еще более 1000 экспертов отрасли по развитию искусственного интеллекта подписали открытое письмо с призывом приостановить разработку ИИ до тех пор, пока не будут созданы, внедрены и проверены независимыми экспертами общие протоколы безопасности. В мае Возняк предупредил, что искусственный интеллект может оказаться полезным для злоумышленников, а созданные с его помощью мошеннические схемы будет сложнее распознать.
В конце того же месяца "Центр безопасности искусственного интеллекта" (Center for AI Safety) опубликовал заявление об опасностях искусственного интеллекта (ИИ), который, по мнению организации, может стать причиной исчезновения человечества.Свои подписи под заявлением поставили ученые, предприниматели и программисты, в том числе "крестный отец ИИ" Джеффри Хинтон и Сэм Альтман, который тогда занимал пост главы OpenAI.
В начале декабря Google запустила, по собственной оценке, самую большую и "наиболее способную" модель искусственного интеллекта Gemini. Новая большая языковая модель будет включать три варианта с разным масштабом решаемых задач: наиболее мощная Gemini Ultra, Gemini Pro (для широкого спектра задач) и Gemini Nano (для конкретных задач и мобильных устройств). Gemini будет поддерживать приложения Google с ИИ — чат-бот Bard и поисковый сервис Generative Experience.
На этой неделе страны ЕС и Европарламент согласовали закон (A.I. Act), регулирующий использование ИИ, он коснется в том числе чат-ботов и систем биометрической идентификации. Закон, который еще предстоит подписать, стал "одной из первых в мире комплексных попыток ограничить использование искусственного интеллекта", отмечает The New York Times.