"Крестный отец" ИИ Джеффри Хинтон заявил, что некоторые опасности чат-ботов с искусственным интеллектом "довольно страшны"

Человек, которого многие считают крестным отцом искусственного интеллекта (ИИ), уволился с работы, предупредив о растущих опасностях, связанных с разработками в этой области.
Джеффри Хинтон, 75 лет, объявил о своем уходе из Google в заявлении для New York Times, заявив, что теперь он сожалеет о своей работе, пишет Би-би-си.
Он сказал Би-би-си, что некоторые опасности чат-ботов с искусственным интеллектом "довольно страшны".
"Прямо сейчас они не умнее нас, насколько я могу судить. Но я думаю, что скоро они станут такими".
Доктор Хинтон также признал, что его возраст повлиял на его решение покинуть технологический гигант, сказав BBC: "Мне 75, так что пора уходить на пенсию".
Новаторские исследования доктора Хинтона в области глубокого обучения и нейронных сетей проложили путь для современных систем искусственного интеллекта, таких как ChatGPT.
Но британско-канадский когнитивный психолог и компьютерный ученый сказал Би-би-си, что чат-бот может вскоре превзойти уровень информации, который хранится в человеческом мозгу.
"Прямо сейчас мы видим, что GPT-4 затмевает человека по объему общих знаний, которые у него есть, и затмевает их далеко. С точки зрения рассуждений, это не так хорошо, но уже делает. простое рассуждение.
"А учитывая темпы прогресса, мы ожидаем, что ситуация улучшится довольно быстро. Так что нам нужно беспокоиться об этом".
В статье в New York Times доктор Хинтон упомянул "плохих акторов", которые попытаются использовать ИИ для "плохих дел".
На просьбу Би-би-си рассказать об этом подробнее, он ответил: "Это всего лишь своего рода сценарий наихудшего случая, своего рода кошмарный сценарий.
"Вы можете представить, например, что какой-нибудь плохой актор решил дать роботам возможность создавать свои собственные подцели".
Ученый предупредил, что это в конечном итоге может "создать подцели, такие как "Мне нужно получить больше энергии"".
Он добавил: "Я пришел к выводу, что тот тип интеллекта, который мы развиваем, сильно отличается от того интеллекта, который у нас есть.
"Мы биологические системы, а это цифровые системы. И большая разница в том, что с цифровыми системами у вас есть много копий одного и того же набора весов, одной и той же модели мира.
"И все эти копии могут учиться по отдельности, но мгновенно делиться своими знаниями. Это как если бы у вас было 10 000 человек, и всякий раз, когда один человек что-то узнает, все автоматически это узнают. Вот почему эти чат-боты могут знать гораздо больше, чем любой другой человек".
Он подчеркнул, что не хочет критиковать Google и что технический гигант вел себя "очень ответственно".
"На самом деле я хочу сказать несколько хороших слов о Google. И они будут более достоверными, если я не работаю в Google".
В своем заявлении главный научный сотрудник Google Джефф Дин сказал: "Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации".