Эффективность предвзятости. Почему нам так сложно принимать хорошие нейтральные решения

Зрительные иллюзии были самым первым доказательством того, что наш мозг воспринимает информацию предвзято — вероятно, каждый может вспомнить с ходу хотя бы один пример. С течением времени ученые нашли проявления предвзятости не только в восприятии визуальных иллюзий, но и в решении обычных когнитивных задач: оказалось, что ни один аспект нашей познавательной деятельности от нее не свободен. Екатерина Бурак — о том, почему предвзятость сопровождает нас на каждом шагу, и что из этого следует.
Предвзятость смолоду Наши когнитивные модули способствуют появлению предрассудков, мы предрасположены раскладывать окружающий мир по полочкам. Например, способность обнаруживать социально значимые признаки появляется в раннем возрасте без какого-либо предварительного обучения.
Исследования зафиксировали, что дети с ранних лет развивают стереотипизацию по полу, расе и возрасту. В одном из исследований трехлетние белокожие американские дети успешно конструировали "расовые идентичности" практически без подсказок. Когда их просили сопоставить фотографии взрослых и детей, различающихся по внешним признакам, они быстрее сопоставляли их, используя расовые признаки, чем сходства в одежде или телосложении.
Исследования, проведенные в других культурах, показывают, что дети предпочитают формировать категории по полу, возрасту и национальности. Такая категоризация начинается с шестимесячного возраста, одновременно с категоризацией звука, цвета и формы.
Предвзятость в эволюции Однажды ученые решили смоделировать одну эволюционную ситуацию, а именно: предпочтение самками преувеличенных мужских половых признаков. Для птиц такие признаки — это броская внешность. Предрасположенность к преувеличенным половым признакам усилилась после того, как эволюционное моделирование позволило хвосту самца мутировать. С одной стороны, длинный хвост делает самца более уязвимым для хищников, а быть ходячей мишенью не очень хорошая эволюционная идея. Но, с другой стороны, самки предвзято неравнодушно относятся к обладателям длинного хвоста, обеспечивая им эволюционную плюшку в виде более успешного продолжения рода.
Что в эволюционной логике перевесит: выживание или репродуктивный успех? Эволюционное моделирование показало, что выигрывает номер два. И всё из-за предвзятости противоположного пола. Эта эволюционная модель подтвердила мнение Дарвина о том, что признак, дающий преимущество в спаривании, может эволюционировать до такой степени, что поставит под угрозу долголетие самца. Яркий реальный пример — самцы павлинов, превратившиеся в легкую цель для хищников благодаря своим роскошным хвостам, которые так нравятся самкам.
Предвзятость самок может провоцировать раннюю гибель самцов. Эволюция может оправдывать предвзятость даже в ущерб выживанию. Выходит, предвзятость — это не случайная ошибка?
Предвзятость как неслучайная ошибка По-английский предвзятость — bias. Это слово происходит от старофранцузского biais, что означало "боком, наискосок, против хода". Отсюда происходит французское biais — "косой, наклонный". В английский язык слово, по-видимому, попало через игру в кегли, где обозначало шары, сделанные со смещением веса на одну из сторон.
В науке и технике предвзятость обычно считается систематической ошибкой. То есть это не случайная ошибка, а определенное постоянное смещение результата. Оно не проявляется по законам вероятности, в отличие от случайных ошибок.
Исследователи в области статистики и данных разложили формулу ошибки предсказания как сумму трех компонентов:
Полная ошибка = (предвзятость)² + дисперсия + шум
Производную этого выражения можно найти во многих учебниках по машинному обучению. Как мы видим, предвзятость — это только один из трех компонентов, которые обуславливают ошибку, да и то в меньшей степени, чем остальные.
Избегание предвзятости не всегда будет функциональным выбором. Предвзятость не так страшна, как дисперсия и шум. Почему? Потому что в дисперсии нет паттернов, нет закономерностей. Дисперсия и шум выдают случайные схемы. Когда случайные схемы используются для составления прогнозов, то эти прогнозы, скорее всего, оказываются неточными.
Но дисперсия и шум неизбежны в этом мире. Как же тогда делать прогнозы и ставки, чтобы успешно действовать в условиях с миллионами разных переменных? Хочется иметь свою систему предустановок и предрассудков, хочется иметь свой паттерн поведения.
Как личностная характеристика предвзятость зачастую преподносится со знаком минус: это плохая черта характера, от которой лучше избавиться. Мол, предубеждения помогли нашим предкам выжить, но в сложном современном мире это качество только мешает.
А еще на предвзятость смотрят как на отношение, основанное на стереотипах. Слово "стереотип" имеет греческие корни, это смесь stereós ("твердый") и typos ("узор, отпечаток, оттиск"). Термин использовался в XVIII веке в полиграфической промышленности для обозначения печатной технологии. Первое упоминание слова "стереотип" вне полиграфии было зафиксировано в 1850 году. Оно означало изображение, увековеченное без изменений. Семантическое поле слова "стереотип" — это нечто ригидное, впечатанное и предопределенное.
Предвзятость — это опора на предубеждения. Ключевая приставка здесь пред-, которая указывает на нечто установленное заранее, до непосредственной встречи с каким-то конкретным предметом, субъектом или фактом. Предвзятость — это нечто, на что мы часто ссылаемся и чем мы руководствуемся при столкновении с неизвестным. То есть это попытка найти или увидеть известное в неизвестном. Гораздо легче встречать новое, если мы к этому приготовились и припасли пару предустановок, ведь так?
Конечно, предвзятость может привести к ошибке в суждении. Но вопиющие ошибки люди обычно совершают не столько от предвзятости, сколько от усталости, рассеянности, стресса, сенсомоторных ограничений и недостатка навыков.
Ошибки всегда мешают нашей адаптации, в то время как предубеждения могут помочь нам адаптироваться к окружающей среде. Например, многие исследования показывают, что переоценка своего контроля над миром является признаком психического здоровья. То есть предвзятый оптимизм помогает нам быть более устойчивым к стрессу. Главная задача успешной адаптации — это выбрать самое подходящее действие из возможных. Сложность заключается в огромном количестве возможностей: что выбрать? Вычисление наилучшего варианта отнимет очень много времени и сил. Мы никак не можем рассмотреть все доступные варианты в каждый момент времени. Для этого нам нужно ограничить свой поиск. И предвзятость как раз таки помогает нам в этом: мы руководствуемся тем, что заранее разложили по полочкам.
Мы можем пользоваться предвзятостью и в восприятии окружающего мира, и в принятии решений.
Правило большого пальца Предвзятость — это мера "по себе". Познавая мир в сравнении с собой, мы можем делать приблизительные расчеты. Такая прикидка — это интуитивная, самая близкая нашему пониманию эвристика. Ей пользуемся все мы, ей пользуется животный мир. Ее называют правилом большого пальца (англ. rule of thumb). Это интуитивное вычисление закономерностей, основанных на полученном опыте, которые потом применяются к другим схожим ситуациям. Проще говоря, это использование опыта вместо теории.
Народная (то есть ненаучная) этимология связывает происхождение словосочетания "правило большого пальца" с домашним насилием. Якобы в английской судебной практике существовало негласное правило, которое разрешало избиение жены при определенном условии, а именно: используемым орудием должен быть прут или палка не толще большого пальца мужчины.
Точное происхождение словосочетания неизвестно. Исторически большой палец часто служил для измерения, поэтому Эбенезер Кобэм Брюэр сделал вывод, что правило большого пальца означает "грубое измерение".
Действительно, можно совершать достаточно точные измерения, полагаясь на собственные предустановки. Измерить что-то гораздо легче, если мы это делаем, используя собственный опыт о нашем теле. Можно пойти дальше: не только измерять, но и прикидывать и вычислять относительно точно и без особых усилий. Это важное открытие для понимания природы адаптивного познания.
Стоп. А как же старая добрая рациональность? Что изменилось с течением времени, так это интерпретация рациональности. Изначально она ассоциировалась с корыстью. В более поздних прочтениях она стала связываться с идеями последовательности, хладнокровности и стратегических аспектов поведения.
В рамках макроэкономики рациональность — это фактор, влияющий на формирование ожиданий. В целом у рациональности множество интерпретаций. Какой только статус она ни получала: аксиома, априорная истина, утопия, аналитическая конструкция — это лишь некоторые из ее послужного списка.
Герберт Саймон сформулировал новый подход к рациональности. Он утверждает, что теория рационального выбора является нереалистичным описанием процессов принятия решений человеком. Поэтому он призвал к психологическому реализму, а именно — к ограниченной рациональности. В условиях ограниченной рациональности упрощение и предвзятость ценятся на вес золота.
Эвристика зачастую ассоциируется с предвзятостью. Но Даниэль Канеман и Амос Тверски, одни из первопроходцев эвристики, использовали термин "предвзятость" с негативной коннотацией. Отсюда возникло стремление "оградить" эвристику от предвзятостей. Однако сегодня мы можем найти много примеров того, как алгоритм с предвзятой установкой предсказывает точнее, чем нейтральный.
Отношения между разумом и окружающей средой часто рассматриваются с точки зрения предубеждения. Предубеждение — это зеркальное отражение адаптивного познания.
Предубеждения в принятии решений Предубеждения помогают нам склониться в пользу того или иного решения или даже стратегии.
Предрассудки влияют на набор критериев, которых будет достаточно для удовлетворительного выбора. Предубеждения влияют на то, довольствуемся ли мы малым или стремимся к максимально лучшему. Они влияют на наш порог удовлетворения, от которого зависит большинство наших решений.
В определении порога удовлетворения есть два подхода: сатисфайзинг и максимайзинг. Satisficing — это смесь слов satisfy — "удовлетворять" и suffice — "быть достаточным". Это тактика "если хватает, то хорошо". Противоположная сатисфайзингу тактика — это максимайзинг, то есть стремление выбрать максимально лучший вариант из возможных. Это тактика "хорошо, если не просто хватает, а достигнут максимум". Уровень притязаний должен быть определен заранее (то есть быть предубеждением), чтобы мы могли быть в состоянии сделать выбор. Установление порога своих стремлений может привести к решениям, удовлетворяющим больше, чем просто случайный выбор. Склонность к первой или второй тактике может быть даже обусловлена генетически. В любом случае два этих подхода успешно сосуществуют в мире науки управления и принятия решений.
Сатисфайзинг работает, когда число альтернатив быстро уменьшается со временем. Такое случается, например, в сезонных брачных пулах.
В отличие от сатисфайзинга максимайзинг гораздо энергозатратнее. Максимайзеры склонны использовать более исчерпывающий подход к принятию решений, что требует много усилий и времени, потому что они оценивают гораздо больше вариантов. Но после принятия решения максимайзеры зачастую испытывают большую неудовлетворенность, чем сатисфайзеры. Отсюда и возникают раздутые страдания перфекционистов.
Саймон предполагает, что люди чаще используют тактику сатисфайзинга, нежели максимайзинга. В своей речи на вручении Нобелевской премии по экономике он отметил, что "принимающие решения могут руководствоваться либо поиском оптимального в упрощенном мире, либо поиском удовлетворительного в реалистичном мире".
Предвзятый ум — дизайн от Бога? Давайте представим, что Бог — это дизайнер человека. Какой вариант разумности и познания он выберет по отношению к окружающему миру? Такой трюк воображения провернули Герд Гигеренцер и Генри Брайтон в своей статье "Homo Heuristicus: Почему предвзятые умы делают лучшие умозаключения".
Дизайн 1 предполагает совершенную память. Это было бы идеально в мире, который абсолютно определен и предсказуем. В мире, где то, что наблюдалось в прошлом, будет наблюдаться и в будущем. Такой разум мог бы помнить температуру каждого дня и мог бы идеально предсказывать погоду, и не нужно было бы смотреть специальный прогноз, чтобы не оплошать с выбором одежды. В этом мире совершенная память гарантирует нулевую предвзятость и нулевую дисперсию, потому что каждое событие было замечено и запомнено. В любом случае наш мир далек от идеально предсказуемого.
Человек с идеальной памятью однажды даже появился на свет. Его звали Соломон Шерешевский, и он стал известен благодаря исследованиям Александра Лурии, который изучал его более трех десятилетий, не обнаружив пределов его поразительной памяти.
Но за эту память пришлось заплатить. Например, Шерешевский мог прочитать страницу и вспомнить ее слово в слово, как в обычном, так и в обратном порядке. Но когда его просили кратко изложить суть прочитанного, он оказывался в полной растерянности. Его идеальная память была похоронена в деталях, не давая ему выжимать суть из информации, выходить за ее рамки.
Нужно придумать дизайн получше.
Дизайн 2 учитывает факт непредсказуемости мира, поэтому совершенная память была бы пустой тратой энергии. Вместо этого человек наделяется рациональным разумом, не замутненным предвзятостями и обладающим гибкой системой абстрактных представлений. Какой бы ни была структура мира, она могла бы быть воспроизведена чистым разумом идеально. Такой разум лучше всего работал бы с большими выборками наблюдений в относительно стабильном мире. Поскольку этот разум не имеет предубеждений и должен выбирать из бесконечных репрезентаций, ему понадобилось бы очень много ресурсов и энергии, чтобы осуществлять все свои когнитивные процессы.
Нужно придумать дизайн получше.
Дизайн 3 нацелен на ум, который может быстро делать выводы всего из нескольких наблюдений. Он использует предубеждения адаптивным образом. Этот ум опирается на несколько инструментов для умозаключений, а не концентрируется на каком-то одном. Он понимает, что каждый из инструментов имеет ту или иную предвзятость. Но эта предвзятость компенсируется уменьшением шума и дисперсии. Эта схема хорошо работает в мире, где выводы приходится делать на основе небольших выборок, где будущее может изменяться самым непредвиденным образом.
Первый и второй варианты предполагают разум с нулевой предвзятостью. Такой разум способен моделировать истинное состояние мира. Но нулевая предвзятость невозможна и не всегда желательна для разума, существующего в реальном мире. В нашем мире никто не обладает всезнанием, даже эксперты и нобелевские лауреаты. Теперь опустим этот креационизм и посмотрим на всё с точки зрения чистой эволюции. Процесс естественного отбора не имеет отношения к истине как таковой, а в некоторых случаях даже не одобряет разум, ищущий истину. Естественный отбор порождает функциональный и адаптивный дизайн в природе.
Быстро распределяя воспринимаемую информацию по категориям, мозг конструирует мир, который можно познавать и использовать. Такие категории важны на всех уровнях: от восприятия объектов до социальной адаптации. Несмотря на неизбежную предвзятость, они позволяют выкраивать шаблоны для эффективных действий в нестабильном и непредсказуемом мире.