Декодеры мыслей на базе ИИ не просто прочитают ваше сознание — они его изменят

Нейронные декодеры, считывающие мысли, могут означать конец частной жизни. Однако последствия применения этой технологии еще более серьезны, чем нам кажется, говорится в статье Wired:
На протяжении столетий менталисты поражали публику тем, что, казалось, проникали в глубины души, без труда выуживая воспоминания, желания и мысли слушателей. Теперь есть опасения, что неврологи могут сделать то же самое, разработав технологии, способные "декодировать" наши мысли и обнажить скрытое содержание нашего разума. Хотя нейронное декодирование развивается уже несколько десятилетий, в популярную культуру оно вошло в начале этого года благодаря целому ряду резонансных работ. В одной из них исследователи использовали данные с вживленных электродов для реконструкции песни Pink Floyd, которую слушали участники эксперимента. В другой работе, опубликованной в журнале Nature, ученые объединили сканирование мозга с генераторами языка на базе искусственного интеллекта (такими, как ChatGPT и аналогичные инструменты) для преобразования мозговой активности в связные, непрерывные предложения. Этот метод не требует инвазивного хирургического вмешательства и, тем не менее, позволяет восстановить смысл рассказа из чисто воображаемой, а не произнесенной или услышанной речи.
Драматические заголовки смело и преждевременно объявили о "появлении технологии чтения мыслей". В настоящее время эти методики требуют от участников огромного количества времени, проведенного в фМРТ, чтобы дешифраторы могли быть обучены на данных их мозга. В исследовании Nature испытуемые проводили в аппарате до 16 часов, слушая рассказы, и даже после этого они могли при желании ввести дешифратор в заблуждение.
По словам Джерри Танга, одного из ведущих исследователей, на данном этапе эти технологии не являются всемогущими устройствами для чтения мыслей, способными расшифровать наши скрытые убеждения, а представляют собой "словарь между паттернами мозговой активности и описаниями психического содержания". Без добровольного и активного участника, обеспечивающего мозговую активность, этот словарь малопригоден.
Тем не менее, критики утверждают, что мы можем потерять "последний рубеж приватности", если позволим этим технологиям развиваться без продуманного надзора. Даже если вы не придерживаетесь такого пессимизма, как техноутопия, общий скептицизм редко бывает плохим. Отец пиара Эдвард Бернейс был не только племянником Фрейда, но и активно использовал психоанализ в своей рекламе. Сегодня многие компании нанимают когнитологов, чтобы те "оптимизировали" впечатления от продукта и перехватывали ваше внимание. История убеждает нас в том, что, как только финансовые расчеты оправдаются, компании, желающие подзаработать, с удовольствием внедрят эти инструменты в свою деятельность.
Однако сосредоточенность на вопросах конфиденциальности привела к тому, что мы не понимаем всех последствий использования этих инструментов. В дискурсе этот новый класс технологий позиционируется в худшем случае как инвазивные устройства для чтения мыслей, а в лучшем — как нейтральные механизмы перевода. Однако такая картина не учитывает истинную гибкость и взаимосвязанность человеческого разума. Мы не сможем оценить весь масштаб возможностей и рисков этого инструмента, пока не научимся рассматривать его как часть нашего когнитивного аппарата.
На протяжении большей части истории человечества разум представлялся как некая внутренняя, частная книга или база данных — замкнутый домен, находящийся где-то внутри нас самих и населенный фиксированными мыслями, к которым только мы имеем непосредственный интимный доступ. Если мы представляем себе разум как частный дневник, содержащий четко определенные мысли (или "интернализм", как его иногда называют), то не так уж и сложно задаться вопросом, как мы можем открыть этот дневник для внешнего мира — как кто-то со стороны может расшифровать скрытый язык разума, чтобы проникнуть в это внутреннее святилище. Теологи считали, что такой доступ может быть получен из божественного мира через Бога, способного читать наши самые сокровенные мысли. Фрейд полагал, что опытный психоаналитик сможет разгадать истинное содержание разума с помощью герменевтических методов, таких как толкование сновидений. Декарт придерживался более физикалистской гипотезы. Он утверждал, что наша душа и разум тесно связаны с шишковидной железой и выражают ее волю. Тем самым он открывал нам путь к идее, что если мы сможем установить правильное соответствие между мыслью и телесным движением, то, возможно, сможем работать в обратном направлении, дойдя до самого психического содержания.
Более современные подходы шли по их стопам. Полиграфы, или детекторы лжи, пытаются использовать физиологические изменения для считывания содержания наших убеждений. Высказывания самого Танга о декодере мыслей как о "словаре" между сканами мозга и содержанием мыслей выражают современную версию этого представления о том, что мы можем расшифровать ум через нейронное тело. Даже критики декодирования мыслей с их опасениями по поводу конфиденциальности принимают эту интерналистскую теорию разума как должное. Именно в силу якобы скрытого характера наших мыслей угроза доступа извне вызывает столь глубокую тревогу.
Но что, если разум не настолько отгорожен от внешнего мира, как мы его себе представляем? За последнее столетие теоретики начали формулировать альтернативную концепцию разума, которая противостоит солипсическому сознанию, показывая, как оно приводит к парадоксам. Один из наиболее радикальных аргументов в этом отношении принадлежит покойному логику и философу Солу Крипке, который расширил понятие "частного языка" — предполагаемого внутреннего, скрытого языка мысли, понятного только самому мыслителю, — и подверг критике взгляд на разум как на самодостаточную сущность. По мнению Крипке, любая мысль, которая является частной и доступной только мыслителю, в конечном итоге становится непонятной даже для него самого.
Чтобы понять, что пытается сказать Крипке, возьмем для начала два цветовых понятия: зеленый и "грю" (понятие, встречающееся в нескольких культурах и относящееся как к зеленым, так и к синим объектам). Предположим, что вы — человек, который никогда раньше не видел синего цвета, — возможно, вы живете где-нибудь за пределами материка и там всегда пасмурно. Вы смотрите на дерево и думаете: "Это дерево зеленое". Пока все хорошо. Но вот тут-то все и становится странным. Допустим, кто-то подходит к вам и говорит, что на самом деле вы имели в виду не зеленое дерево, а грю. Это концептуальное различие, которое вы никогда не делали для себя, поэтому вы пытаетесь осмыслить его; но когда вы это делаете, то понимаете, что в вашем прошлом поведении или мыслях нет ничего, что вы могли бы использовать для того, чтобы уверить себя, что вы действительно имели в виду зеленое дерево, а не грю. Поскольку в вашем сознании нет ни одного факта, на который вы могли бы указать, чтобы доказать, что вы действительно имели в виду зеленый цвет, идея о том, что смысл наших мыслей каким-то образом внутренне самоочевиден, завершен и прозрачен для нас, начинает рушиться. Смысл и намерение не могут возникнуть только в частной и надежной области сознания, поскольку наше внутреннее сознание само по себе изобилует неопределенностью.
Этот пример указывает нам на странную особенность нашего познания. Наш мозг конечен, но ментальные понятия имеют бесконечное множество применений, и в этом промежутке возникает фундаментальная нечеткость. Мы часто не уверены в том, что имеем в виду, и склонны переоценивать обоснованность и полноту своих мыслей. Слишком часто я делал какое-то утверждение, а когда меня просили уточнить, понимал, что не совсем уверен в том, что хотел сказать. Как заметил писатель Мортимер Адлер, "человек, который говорит, что знает, что он думает, но не может этого выразить, обычно не знает, что он думает".
Если рассматривать разум как самодостаточную, самоценную, частную сущность, то наши мысли становятся странно бессущностными, нематериальными, призрачными. Когда мы остаемся сами по себе, отрезанные от внешнего мира, наши мысли плывут по течению, не закрепляясь, и только когда они оказываются вплетенными в широкий материальный и социальный мир, они обретают вес и полноценный смысл. Эти аргументы заставляют нас понять, что мысль — это не некая стабильная вещь, которую мы пассивно храним в каком-то частном, внутреннем сознании, а она возникает между нами и окружающей средой. Иными словами, мысли — это не столько то, что у вас есть, сколько то, что вы делаете с окружающим миром.
Когнитивисты и психологи стали отталкиваться от этого "экстерналистского" взгляда на сознание. Например, они начали изучать роль социального взаимодействия в познании и использовать физическое распределение разума для лучшего понимания таких явлений, как транзактивная память, совместное вспоминание и социальное заражение. Мышление — это не только то, что происходит в пределах нашего черепа, но и процесс, в котором задействованы наши тела, а также окружающие нас люди и предметы. Как пишет Энни Мерфи Пол в своей книге "Расширенный разум", наши "вненейронные" сигналы не только "изменяют способ мышления", но и "составляют часть самого процесса мышления".
Если мозг — это не просто стабильная, самодостаточная сущность, которая сидит и ждет, когда ее прочитают, то ошибочно думать, что декодеры мыслей будут просто нейтральными ретрансляторами, передающими внутренние мысли на общедоступный язык. Эти машины не будут машинами, чисто описывающими мысль, как будто они являются отдельной сущностью, не имеющей ничего общего с мыслящим субъектом, они будут обладать способностью характеризовать и фиксировать пределы и границы мысли в самом акте декодирования и выражения этой мысли. Подумайте об этом, как о коте Шредингера — состояние мысли трансформируется в процессе ее наблюдения, превращая ее неопределенность в нечто конкретное.
Чтобы увидеть аналогичный пример из другой области, достаточно обратиться к алгоритмам. Авторы, пишущие о технологиях, давно отметили, что, хотя алгоритмы позиционируют себя как агностические, основанные на данных маркеров ваших желаний, на самом деле они помогают формировать и формируют ваши желания в процессе предсказания, превращая вас в идеальных субъектов потребления. Они не просто собирают данные о пользователе, они превращают его в человека, отвечающего потребностям платформы и ее рекламодателей. Более того, именно благодаря способности алгоритма позиционировать себя как нейтрального и объективного рассказчика истины он может делать это так эффективно. Наша забывчивость делает нас особенно восприимчивыми к тонкой реформации. Аналогичным образом, нынешняя история с дешифраторами мыслей упускает половину картины, игнорируя способность этих инструментов возвращаться назад и изменять саму мысль. Речь идет не только о допросе, но и о конструировании.
Непризнание формирующего потенциала этих технологий может привести к катастрофе в долгосрочной перспективе. Предшествующая технология — детекторы лжи — использовалась полицией для вживления ложных воспоминаний подозреваемым. В одном из случаев подросток начал сомневаться в своей невиновности после того, как сержант ввел его в заблуждение, что он провалил тест на полиграфе. Вера в нейтральность и объективность прибора заставила его предположить, что он подавил воспоминания о насильственном преступлении, что в итоге привело к признанию вины и вынесению обвинительного приговора, который был отменен лишь позднее, когда прокурор нашел оправдательные доказательства. Важно понимать, что инструменты, которые якобы сообщают о нашем познании, также являются частью системы, которую они описывают; слепая вера может сделать нас уязвимыми для действительно глубокой формы манипулирования. Важно отметить, что технологии не обязательно должны быть сложными или точными, чтобы их можно было использовать подобным образом (в конце концов, эффективность детекторов лжи была в целом отвергнута психологическим сообществом). Чтобы открыться этой когнитивной запутанности, достаточно поверить в то, что эти машины нейтральны, и доверять их результатам.
Нельзя отрицать потенциальную пользу, которую могут принести инструменты "декодирования мыслей". Люди задумываются о том, как можно использовать их для общения с невербальными, парализованными пациентами, чтобы вернуть голос тем, кто в настоящее время лишен такой возможности. Однако, продолжая развивать эти инструменты, важно рассматривать их как устройства, находящиеся в диалоге с объектом. Как и в любом диалоге, мы должны с осторожностью относиться к включаемым и исключаемым понятиям, к синтаксису и структуре, подразумеваемым в его параметрах. Когда мы проектируем эти аппараты, включаем ли мы в них термины, выходящие за рамки нашей типичной лингвистической территории — слова, которые пытаются выработать новые способы мышления о гендере, окружающей среде или нашем месте в мире? Если мы не включим такие термины в конструкцию этих технологий, не станут ли эти идеи в каком-то смысле буквально немыслимыми для пользователей? Эти опасения не слишком расходятся с устоявшимися утверждениями о том, что нам следует внимательно относиться к данным, на которых мы обучаем ИИ. Но если учесть, что эти ИИ могут озвучивать — и тем самым формировать — наши мысли, то представляется особенно важным, чтобы все было правильно.
Менталисты, что неудивительно, знали все это задолго до того, как это стало известно основной философии, теории или современной когнитивной науке. Несмотря на паранормальное клеймо, на самом деле они не были способны к телепатии. Скорее, с помощью внушения, умозаключений и некоторой доли смекалки они заставляли своих слушателей думать именно так, как им хотелось. Они понимали внешние свойства разума и его многочисленные взаимосвязанные процессы — то, как мысли, которые кажутся нам такими личными, которые, казалось бы, являются плодом только нашей воли, постоянно формируются окружающим миром, — и использовали это в своих интересах. Однако, узнав, как это делается, мы сможем развеять эту иллюзию и научиться принимать более активное участие в формировании собственного мышления.