Раб, властелин или питомец? Какие формы отношений с роботами ждут нас в будущем

Известный футуролог Кевин Келли считает, что отношения людей и искусственного интеллекта не должны быть похожими на человеческие связи. Об этом пишет Идеономика.
Наши отношения с искусственным интеллектом можно свести к пяти моделям взаимодействия. В будущем в нашей жизни появятся тысячи разных видов ИИ, к которым мы будем относиться по-разному, в зависимости от того, какому типу он принадлежит.
Домашние питомцы
Многие, если не все, формы ИИ будут восприниматься нами как домашние питомцы или рабочие животные. Устройства станут умными — в конкретных, прикладных направлениях. Так же как и наши домашние животные, выведенные из диких, эти помощники будут реагировать на эмоции и жесты людей. Их самостоятельность будет ограничена предназначением, от которого они не смогут отклониться далеко. Они прекрасно проявят себя в конкретных задачах, но в той области, что не относится к их компетенции, этим устройствам будет не хватать интеллекта и осведомленности.
Например, некоторые из них будут очень хороши в переводе, но не в навигации. И поэтому чаще всего на такие формы ИИ будут жаловаться, называя "тупицами". Они будут гениями в одном, но полными идиотами в другом. Мы будем выговаривать им: "Как ты можешь быть таким глупым?" Кейт Дарлинг, исследователь Массачусетского технологического института, проницательно рассказала об этой модели отношений в книге "Новая порода" (The New Breed). По ее словам, у нас уже есть хорошо зарекомендовавшие себя законодательные и культурные нормы обращения с домашними и служебными животными, и мы можем использовать их в отношении ИИ и роботов.
И, как домашние животные, формы ИИ будут разными по характеру, у них будут легко узнаваемые черты. Мы станем предпочитать одного конкретного робота из ряда других таких же.
Инопланетяне
Более продвинутые формы ИИ можно рассматривать как искусственно созданных пришельцев. Их способности возрастут до такой степени, что они будут способны к самоанализу, обретут сознание. Но подобно персонажам "Звездного пути", Споку или Дейту, их высокий интеллект будет нечеловеческим, инопланетным. Эта чужеродность и станет главной чертой их привлекательности, они будут мыслить иначе. Даже если их познания не поразят нас, именно инопланетный — то есть другой — подход сделает это сотрудничество интересным.
Таким формам ИИ потребуется человекоподобный интерфейс, чтобы работать с ними было комфортно. Они будут общительны и станут повторять наше поведение. По мере роста самосознания и способностей к самоанализу инопланетных форм ИИ, с ними станет труднее работать. Они будут проявлять больше признаков психической дисфункции, вызванной саморефлексией.
Самым ценным в сотрудничестве с таким типом ИИ станет его непостижимый мыслительный процесс, его реакции (положительные и отрицательные) будут нас удивлять. В то же время некоторым людям будет близка их чужеродность, и такие люди смогут построить карьеру в качестве Посредников ИИ. Им будет комфортно работать с этими формами и они смогут добиться самых лучших результатов, что со стороны покажется нам настоящей магией.
Духи Во многих религиях существует представление о духах или богах, обитающих в определенных местах, сооружениях или предметах. Эти духовные сущности обладают энергией и полны жизни, но не обязательно отличаются высоким интеллектом.
Многие объекты, структуры или системы будущего будут обладать средним ИИ, который придаст им подобие одушевленности. Такие формы смогут адаптироваться, обучаться, исследовать и реагировать, словно живая система. Их интеллект будет медленным и рассеянным, но устойчивым. Он будет распределяться по всей системе, а значит, его сложно будет уничтожить или даже нанести существенный вред. В таком виде ИИ можно уподобить духовной сущности, обитающей в старом дереве, или джину в лампе. Он все время присутствует, может отреагировать на вторжение, приспосабливается к повреждениям и живет очень долго, но в остальном его суть неясна и расплывчата.
Основная цель таких духов искусственного интеллекта — это защита системы, где они обитают и их сотрудничество с человеком ограничено степенью нашего желания сотрудничать. Мы можем представить, например, форму ИИ как духа-хранителя сети энергоснабжения, или подводной лодки, или даже фортепьяно. Кейчи Мацуда даже написал небольшое эссе, где рассматривается идея использования метафоры бога для ИИ.
Рабы Хорошо известная модель отношения к формам ИИ — это отношение как к слугам или рабам. В той мере, насколько им хватает способностей и покорности, они могут выполнять грязную, тяжелую и неблагодарную работу, которую кто-то должен делать. Для некоторых людей такие формы ИИ станут идеальным вариантом слуг или рабов, поскольку они однозначно не являются людьми и не заслуживают человеческого сочувствия. Они одноразовы, взаимозаменяемы и лишены чувств. Они машины, так что любое жестокое обращение с ними допустимо.
Какие бы человеческие черты они ни приобрели — например, некоторый уровень самосознания — они будут считаться механизмом. Сколько бы они ни развивались и ни обучались, они будут рукотворными предметами, а не живыми существами, навсегда останутся машинами, а значит, нашими слугами или рабами. Проблема модели отношений раб-хозяин в том, что она токсична для нас.
Сами формы ИИ могут не испытывать никаких затруднений, но наша человеческая душа страдает, если мы позволяем себе относится к существам, наделенным разумом, как к рабам. Люди, жестокие к животным, будут жестоко обращаться с другими людьми, то же самое справедливо в отношении жестокости к формам ИИ. Поэтому нам следует научиться избегать или сводить к минимуму модель отношений слуга/раб для ИИ.
Властелин В научно-фантастических фильмах единственная модель поведения для ИИ — это стать нашим владыкой. Следуя этом сценарию, ИИ будет становиться все умнее, пока не превзойдет нас в мощности ума, а потом захватит мир и всех убьет. Такой вариант также называют моделью Сверхчеловека или Сингулярностью. Хотя несколько авторитетных лидеров в развитии технологий считают, что суперинтеллект возможен, я думаю, что такой вариант развития событий крайне маловероятен, и бояться его не стоит.
Я написал большое эссе о том, почему суперинтеллект никогда не захватит власть. Главный мой аргумент заключается в том, что суперинтеллект (как его определяют в данной модели) является искаженной формой человеческого интеллекта. Главным достижением человечества в создании разных форм ИИ станет преодоление невежества о том, как работает наш собственный разум. Мы обнаружим, что идея создания Сверхчеловека-правителя нарушает главное технологическое правило — вы не можете бесконечно оптимизировать все процессы во всех направлениях, и что процесс реального создания — включая познание как процесс — обязательно влечет за собой компромисс. Супермен не мог бы существовать на самом деле, но миф о супермене и его архетип очень устойчивы.
Точно также, и Сверхчеловеческий ИИ невозможен, но миф о нем продолжает существовать. Бывают моменты, когда возникает ощущение, что мы служим повелителю ИИ, даже если это на самом деле не так, так что важно уметь распознать эту модель отношений.
Я не думаю, что наши отношения с ИИ будут напоминать классические отношения между людьми: друзьями, детьми и родителями, коллегами или любовниками. Я надеюсь, что мы оставим эти роли человеку.
Думаю, что первые попытки заменить людей "дружелюбными" человекоподобными формами ИИ не будут долговечными. Например, колл-центры или розничная торговля, заменившие операторов-людей на ИИ, который будет разговаривать точь-в-точь как человек, быстро поймут, что обычные люди предпочитают разговаривать с действительно разумным пришельцем, чем с почти что человеком. Небольшой разрыв между настоящим и подделкой кажется отталкивающим, когда кто-то пытается выдать себя за человека.
А вот общение с инопланетянином способно заинтересовать.
Со временем разработчики ИИ будут создавать формы, подчеркивая его чужеродность, а не пытаясь одурачить нас, делая их на сто процентов похожими на людей, поскольку здесь нас не проведешь. В то же время, по мере того, как мы наполняем этот мир мириадами новых видов ИИ, я легко могу представить, что появятся и другие модели взаимоотношений, не упомянутые здесь.