Умные люди верят в странные вещи, потому что они умеют защищать убеждения, к которым они пришли по неумным причинам, - Майкл Шермер

Математик Джон Тьюки, человек который придумал слово бит, обратил внимание на то, что люди мыслят как бы в двух режимах. Первый режим, это когда ты подтверждаешь то, что хочешь подтвердить. Второй - когда ты пытаешься изучить вопрос и понять как на самом деле.

Для первого режима есть название — рационализация или мотивированное мышление. Это чем-то напоминает поиск решения, когда ты заглянул в ответы в конце учебника, и узнал к чему нужно прийти. Правда существует серьёзная разница: в жизни ответы, которые у тебя есть, не всегда верны.

Но как можно подогнать решение к неверному ответу? О, человеческий мозг — это идеальный инструмент для выполнения такой задачи, отточенный миллионами лет эволюции. Мы произошли от тех, кто смог убедить племя, что нужно убить ненавидимого ими соперника. Рационализация — это не прямое следствие такой оптимизации, а скорее побочный эффект. Учась убеждать других, мы случайно научились убеждать себя. Всё как в моей истории про дебаты, правда, в масштабе человечества.

Это явление включает в себя целый набор когнитивных искажений. Все их объединяет то, что они направлены на сохранение имеющихся убеждений. Вам ничего не нужно делать, чтобы этому научиться, всё и так уже происходит автоматически. А вот чтобы разучиться, нужно прилагать усилия. Причём не приложить, а именно прилагать постоянно. Когнитивные искажения - это не штуки, которые можно вытряхнуть из мозга хитрыми приёмами, это собственно мозг и есть.

Наиболее топорный пример рационализации - это когда я просто выдумываю на ходу аргументы в подтверждение своей позиции. Давайте не будем юлить, все так делали, по крайней мере, в детстве, и вам хорошо знакомо это ощущение.

Однако не всегда аргументы приходится выдумывать. Теорема Байеса как бы подсказывает, что даже по самым определённым вопросам наберётся парочка слабых аргументов против. Что и говорить, о более дискуссионных темах. Но баланс свидетельств в большинстве случаев укажет в нужном направлении.

Однако речь идёт о полном балансе свидетельств, но мы-то принимаем большинство решений в условиях неопределённости. Позвольте процитировать CEO Amazon Джеффа Безоса: «большинство решений, скорее всего, нужно принимать, имея около 70% желаемой информации». Думаю это довольно оптимистично, и в действительности мы действуем с куда меньшим количеством информации (хотя фраза «желаемой информации» не равна фразе «максимально доступной информации», и с учётом этого цитата уже куда реалистичнее). Принимая решение на основе неполной информации (то есть примерно всегда), мы можем стать жертвой ошибки выжившего, или её статистической сестры систематической ошибки отбора (selection bias). Суть их можно проиллюстрировать одной фразой: рассказы об уме и доброте дельфинов основаны на рассказах уставших пловцов, которых они толкали к берегу, но мы лишены возможности услышать рассказ тех, кого они толкали в другую сторону.

Но это просто ошибка работы с данными, при чём тут рационализация? Дело в том, что мы можем сформировать для себя подобную ошибку, выбрав реальные свидетельства, но подтверждающие лишь одну позицию. В науке такое поведение получило название «сбор вишенок» (cherry picking). Это когда мы ищем «свидетельства за» на тематических форумах соратников, и обходим стороной «свидетельства против» как бы случайно игнорируя их потенциальные источники. Крутым индикатором здесь будет то, как вы вбиваете запросы в поисковик, при поиске свидетельств. Что можно получить при поиске «аргументы за Х»?

И кстати, память — ненадёжный инструмент, что является темой для отдельной статьи. Но здесь нам интересен эффект под названием «подтверждающая память». По умолчанию мы лучше запоминаем информацию, подтверждающую текущие убеждения. И даже если мы сталкиваетемся со свидетельствами против, наш мозг заботливо отправляет эту информацию в утилизацию небольшими порциями.

Другой чуть более сложный в обнаружении метод - это мотивированный скептицизм. Если мы направлены на поиск фактической ситуации, уровень нашего скептицизма и требовательности к силе доказательств будет одинаков вне зависимости от того, подтверждают ли эти доказательства какую-либо гипотезу или опровергают. Однако если мы решаем задачу зная «правильный» ответ, то будем крайне придирчивы к качеству аргументов против него.

Ещё один лик рационализации – это выбор момента остановки вашего исследовательского поиска. Если мы знаем «правильный» ответ, и находим пару аргументов за, то мозг стремится остановить дальнейший поиск. Зачем тратить ресурс, если мы уже всё доказали как надо? Однако он не будет столь ленив, если аргументы нашлись в основном против. Тогда наш мозг засучит рукава и будет копать на полный штык, продолжая поиски пока не придёт к «нужному» выводу. Если же баланс свидетельств никак не будет складываться в нужную картинку, появится соблазн объявить вопрос недоисследованным, продолжив сомневаться в «неправильном» выводе.

Пожалуй, самый продвинутый способ обмануть себя это произвести ритуал сомнения. Это уже, рационализация второго порядка. Тут мы, имея убеждения на какой-то счёт, обнаруживаем, что они были получены путём мотивированного мышления. Тогда мы имитируем нормальный процесс мышления и в итоге приходим к тем же убеждениям. Я называю этот процесс «легализацией убеждения». И конечно, иногда наши рационализированные убеждения бывают точны. Однако, если вы регулярно сомневаетесь в своих убеждениях, но никогда не находите убедительных аргументов против них, думаю, вам стоит начать что то подозревать. А ещё подумать над следующим вопросом: Каким чудесным образом вы получили такой изумительный набор убеждений методом, который вообще-то довольно хаотичен. Это маловероятно. Примерно как знать о мире достаточно и не ошибаться в своих прогнозах только окончив школу.

Вот такой вот подарок от предков зашит в голове каждого из нас. Убеждения гораздо продуктивнее было бы воспринимать как листочки бумаги, лишь часть из которых верна. И если вы узнаете, что некоторый лист бумаги у вас содержит ошибку, просто замените его на верный.

Представьте себе ситуацию. Вы пришли к убеждению о том, что этот ноутбук лучший за свою цену. Друг спрашивает вас: «а почему ты так считаешь?». Ты, не особо задумываясь, воспроизводишь свои рассуждения: вспомнишь видео таких-то техноблогеров, обзоры таких-то моделей, и сравнение таких-то технические характеристики. Друг сообщает тебе новую информацию, о том, что по этим параметрам есть вариант лучше. Жаль, но станешь ли ты настаивать на изначальной уверенности? Скорее всего – нет. На момент принятия решения исходя из данных, что у тебя были - выбор сделан оптимально. Но с обновлённой информацией - нужно просто выкинуть листочек и заменить его на новый. Проверочный вопрос: ноутбук ломается, ты приходишь в магазин и тебе предлагают замену в том же ценовом диапазоне. Какой ноутбук выберешь теперь? Всё просто, если не держаться за старые убеждения.

Но наш мозг на довольно глубоком уровне сопротивляется удалению имеющихся листочков. Многие идеи мы воспринимаем как важные элементы самоидентификации (особенно если вложились в них репутационно, деньгами, временем или другими ресурсами). Поэтому отказ от них по умолчанию ощущается как предательство себя и всех думающих так же.

Порой мы держимся за убеждения настолько сильно, что нам приходится игнорировать не просто контраргументы. Мы начинаем сомневаться в том, что есть какие-то верные листочки. В том, что доказательства имеют какой-то смысл. Я называю это «защитой на дальних подступах». Иногда это принимает вид: «да кто я такой, чтобы рассуждать о том, что правильно» (это, конечно же, нужно читать как обращение к собеседнику: «кто ты такой для этого?»). Сохранение некоторых особо абсурдных листочков заставляет людей отрицать возможность что-то изучать, понимать и доказывать.

Однако даже в таком случае доказательства работают и меняют мнение людей. Ведь когда человек говорит: «это просто работает, а вся ваша идея более правильных листочков - ерунда» или «нет никаких правильных моделей, есть просто разные взгляды на мир» он будет убеждать вас в своей правоте с помощью… доказательств. Поэтому в следующей статье мы разберём под другим углом (нежели здесь), что такое доказательства и как они работают (и работают ли вообще?).

Наука строится на наблюдениях, а Вера - это отрицание наблюдений для сохранения собственных убеждений, - Тим Минчин