Футуролог Джарон Ланье: "Опасность в том, что ИИ может свести нас с ума"

Футуролог, айтишник и крестный отец виртуальной реальности Джарон Ланье заслужил прозвище Мрачный оптимист за свои прогнозы о будущем человечества и рисках, которые несут нам технологии. В своих книгах он описывает опасности и минусы гаджетов и социальных сетей, которые лишают нас свободы выбора. Однако в появлении интеллектуальных чатботов вроде ChatGPT он видит возможность освобождения от опасных иллюзий.
С самого начала интервью, которое Ланье дал изданию Guardian, он оговаривается, что не любит термин ИИ, не считает его интеллектом и не верит, что он может составить нам какую-либо конкуренцию. Захват власти над людьми, по его мнению, это чистая фантастика. Сравнивать возможности компьютера и человека нелепо, потому что компьютер "сделан из человеческих возможностей". Сопоставлять себя с ИИ все равно, что сопоставлять себя с автомобилем. "Это как сказать, что машина ездит быстрее, чем бегает человек. Безусловно, быстрее, но ведь это не значит, что машина — лучший бегун, чем человек", — сказал Ланье.
"С моей точки зрения, опасность не в том, что через нашу технологию с нами заговорит новая чужеродная сущность, захватит власть и уничтожит нас, — заявил футуролог. — По мне, опасность в том, что мы станем использовать свою технологию, чтобы стать непонятными друг для друга или безумными, если хотите, в том смысле, что мы не станем предпринимать достаточно усилий для понимания и действия в собственных интересах, и, фактически, вымрем из-за своего безумия".
Чем более сложными становятся технологии, тем больше вреда мы можем причинить себе с их помощью, и тем более ответственно должны действовать. Другими словами, на нас лежит ответственность поступать нравственно и человечно.
Ланье не думает, что боты вроде ChatGPT или Bard принесут цифровому миру новую надежду. Интернет всегда дает иллюзию бесконечных возможностей, но на деле лишь сужает выбор. До сих пор алгоритмы применялись главным образом для того, чтобы отобрать те видео или посты, которые увидит пользователь в соцсетях. Это делает нас ленивыми и нелюбопытными. Раньше мы рылись на полках музыкальных или книжных магазинов, были напрямую связаны с ассортиментом товаров и информации, который, в действительности, был много больше, чем скармливают нам сейчас по каналам, которые контролируют какие-то другие люди.
Примером такого ограниченного выбора Ланье называет Википедию. "Кое-кто еще помнит, что раньше были и Британская энциклопедия, и Американская энциклопедия, и они давали разный взгляд на вещи, — сказал он. — Желание иметь одну идеальную энциклопедию нелепо".
Так что с этой точки зрения появление чатботов, которые на один и тот же запрос выдают разные ответы, не так уж плохо. Внезапно компьютер становится больше похож на человека, перестает быть рупором "единой истины". Таким образом, у нас разрушается иллюзия в непогрешимости интернета или ИИ. По мнению Ланье, это хорошая тенденция.
Сооснователь компании OpenAI Илья Суцкевер признался недавно, что считает новую языковую модель GPT-4 способной вырасти до универсального ИИ и даже назвал сроки — опасность инструмента станет всем очевидна уже через пару лет. Этим он и объясняет решение компании выпустить не открытую модель, а "черный ящик", скрыв практически все интересные для ИИ-сообщества технические подробности.