bayesyatina

Пьём китайский чай с популяризатором науки Александром Панчиным и говорим про научный метод и рациональность. Обсудили проблему демаркации науки, теорию принятия решений, бритву Оккама и доказательную медицину. А ещё затронули такие редко обсуждаемые темы как Ограбление Паскаля, Эмерджетность и Парадокс Ньюкомба.

«Мысль начинается там, где мы наталкиваемся на препятствие» Лев Выготский

Соломенное чучело.

В чёрной риторике есть приём под названием «соломенное чучело». Его суть — аргументы оппонента подменяются на слабые искаженные версии себя. Обычно для этого они утрируются и возводятся в абсолют до такой степени, что всем становится очевидна ошибочность подобных суждений. Это в каком-то смысле оправдано, ведь риторика и дебатные технологии не ставят целью отыскать истину. Мерило результата — убеждение аудитории.

Использование соломенного чучела в споре относится скорее к вопросам этики и экологии общения. В этом нет ничего хорошего, но есть ситуация и похуже. Стремясь проверить некоторые существующие у себя убеждения, мы эмулируем (создаём виртуальную копию) критика. К сожалению, эта копия по умолчанию выставляет в качестве контраргументов соломенные чучела.

Эмулированный критик воспринимается внутренне, как «чужак» который «атакует» нашу позицию. Нельзя же допустить, чтобы в его руки попало сильное оружие? К счастью, раздача оружия в нашем ведении (ведь всё происходит у нас в голове). Дадим ему самые слабые и смешные аргументы. Те , что никто не стал бы использовать. Он займёт сторону, которую никто не захотел бы отстаивать.

Ура! Мы получаем слабую критику своей позиции, убеждаемся в победе и забываем, что, изначальной задачей было проверить, правильно ли мы думаем. Ведь убеждения нужны для прогнозов, а эта победа никак не сделает их лучше. Когда мы столкнёмся с реальностью, умение убеждать кого-либо (особенно себя) не будет иметь никакого значения.

Стилмэнинг.

Можно ли с этим что-то сделать? Да, для критической проверки убеждения нужно создать «железного человека» - самый сильный набор контраргументов. Практика максимально серьёзного критического восприятия своих же убеждений называется «стилмэнинг» (с англ. железный человек). Это эмуляция оппонента, наделённого всеми ресурсами вашего мозга, к которому вы относитесь с должным уважением. Он не будет говорить глупые и абсурдные аргументы.

Какие свидетельства убедили бы вас в другой гипотезе? Существуют ли подтверждения этому? Даже у самых абсурдных теорий есть неглупые аргументы. Возьмём плоскоземельцев. Исходя из кривизны окружности земли, с высоты человеческого роста можно видеть всего на несколько километров, однако иногда мы наблюдаем корабли с кратно большего расстояния. Очень хочется сказать, что «чужаки» где-то ошибаются, и так оно и есть. Но не все смогут с ходу указать где именно. А значит, аргумент не так уж плох. Можно ли теперь сказать, что «чужак» просто верит в ерунду по своей глупости? Ведь он изучил свидетельство и обновил свою уверенность, так же как это сделали бы вы исходя из доступного материала.

Иногда под натиском «железного человека» убеждения будут рушиться или вы будете снижать свою уверенность в них. В другой раз, напротив, проделав хорошую работу, вы увидите, что здание ещё прочнее, чем ожидали. Но как проверить себя и не спутать соломенное чучело с железным человеком? Как избежать чисто ритуального стилмэнинга, в котором вы имитируете усилия?

Идеологический тест Тьюринга.

Первым заметным эффектом от стилмэнинга будет то, что «чужаки» перестанут вам казаться глупцами. Ведь судим мы по себе, а мы бы поверили в соломенных чучел исключительно из-за скудоумия. Застелмэнив позицию мы понимаем — вот почему люди выбрали другие убеждения. Ну или думаем, что понимаем. Это как раз можно проверить, и поможет нам «Идеологический тест Тьюринга».

Суть вот в чём. Вы заранее озвучиваете «чужакам» их собственные аргументы в вашем представлении. Затем спрашиваете, считают ли они данную аргументацию обоснованием своих убеждений? Если собеседники откажутся принимать данные аргументы, то вы провалили тест. Если дополнят список новыми аргументами, над которыми вы вообще не думали - вы провалили тест. Если внезапно выяснится, что они вообще не придерживаются подобных убеждений - вы провалили тест.

Навыки убеждения себя или людей вам не помогут. Единственное что может действительно помочь, это всесторонне изучить тему.

Про правильное исполнение. Важно сначала высказать все сильные аргументы. Их нельзя записать или запомнить. Нужно именно озвучить и сказать, что данные аргументы, по вашему мнению, обосновывают позицию собеседника. Лучше всего, если человек, с которым вы беседуете, не знает, что именно вы пытаетесь сделать, это сохранит чистоту эксперимента.

Идеологический тест Тьюринга позволяет проверить, не используете ли вы стилменинг просто как ритуал. Не делаете ли вы вид, что используете все свои возможности, чтобы затем триумфально остаться при «своём» мнении. Иногда достаточно вспомнить про тест, и это сразу позволит обнаружить соломенных чучел.

Кстати, этот инструмент не ставит задачей подготовку к разгрому «чужаков». Ведь практики рациональности направлены на поиск точных карт, а не на исправление чужих карт на вашу версию. Однако использование этого инструмента для диалога может сделать разговор намного более экологичным.

P.s.

На всякий случай: в данной статье слово «чужак» я использую в смысле человека (или эмуляции), у которого иной взгляд на реальность с принципиально отличающимися прогнозами. То есть у вас у обоих карты одной и той же территории, но у него там есть дерево, а у вас нет. Проблемы, связанные с мышлением «свой-чужой», я разберу в другой статье.

P.p.s.

Если вернуться к теме дебатов — с помощью стилменинга мы готовились к региональному чемпионату. Один из членов команды пытался выдвинуть самые сильные аргументы оппонентов, и мы проводили подготовку к их отражению. А Идеологический тест Тьюринга проходил уже на играх при аудитории. Если мы проваливали его, то все заготовки летели в мусорку. Правда, здесь данные инструменты вообще никак не улучшали убеждения, скорее наоборот. Дебаты подарили мне поразительное количество дурных привычек для мышления и я об этом скоро напишу.

Мой канал в телеграмм

Мой канал на ютуб

Видео из серии чаепитий, но в этот раз мы поим какао популяризатора науки Алексея Водовозова. Видео поделено на три блока:
Блок 1 - Пациент разумный. Что должен знать пациент (а чем лучше не забивать голову), как найти хорошего врача и что вообще значит "хороший" в данном случае.
Блок 2 - Доказательная медицина. Про эффективность в медицине и всё что этому препятствует (наукометрия, искажения, публикационное искажение, статистическая значимость, гепердиагностика).
Блок 3 - Этика и прогресс. Что такое благо для пациента, цена челоческоей жизни, количественный гуманизм, редактиврование генома и ИИ.

Представьте себе сцену в мастерской изображения глубокой мудрости. Два ученика пришли к великому гуру, чтобы разрешить спор. Первый говорит: «учитель разреши наш спор, я считаю, что остеопатия не работает, ведь есть кохрейновский обзор, доказывающий, что она не лучше, чем невмешательство». И мудрец отвечает: «ты прав». Второй изложил свою позицию: «нет, остеопатия работает, мне же помогает, мне становится лучше после сеансов с моим остеопатом». И мудрец сказал: «ты тоже прав».

Тут вмешиваюсь я и говорю: так погоди, такого не может быть! Они же противоречат друг другу, они не могут оба быть правы. На что гуру отвечает: «и ты тоже прав! У каждого своя правда. Задумайся, когда ты думаешь о мире это лишь убеждения у тебя в голове. Когда ты думаешь о чужих убеждениях (о том, что думают другие люди), это тоже лишь убеждения у тебя в голове. Не существует ничего, кроме, убеждений у тебя в голове».

Есть ли тут неправые?

Сегодня предлагаю поговорить об одной из самых полезных, на мой взгляд, идей из области рациональности. Это идея о том, что не всё равно во что верить. Идея о том, что мы можем ошибаться в своих убеждениях об окружающем мире, и это плохо. А прилагать усилия для того, чтобы ошибаться меньше - это хорошо. В наш век, где в соцсетях астрология приравнивается к астрономии, а гомеопатия - к онкологии эта мысль не так уж очевидна.

Представьте, что у вас есть карта леса, по которому я иду. У меня тоже есть карта этого самого леса, но немного другая. К примеру, в вашей карте вот за той опушкой нарисовано дерево, а у меня там озеро. Мы представляем себе два немного разных леса. Но увидим один.

Причём мы можем там обнаружить холм, и выяснится, что ни ваш, ни мой прогноз неверен. Можем увидеть дерево, и я признаю, что моя карта в этом месте неправильная. Могу, и я оказаться прав. Но чего произойти не может, так это того, что обе карты окажутся правильными. Мы не увидим два разных леса.

А всё потому, что карты не территория. Карты — это лишь образы. Они могут быть как точными, так и ошибочными. Главный судья тут то, что мы увидим за тем поворотом.

О, смотрите, совершенно случайно посередине леса стоит мольберт с моей любимой картиной Рене Магритта «Предательство образов». На картине изображена трубка, но это только образ трубки, а не сама трубка, о чём заботливо напоминает нам автор подписью под ней. Какое чудесное совпадение.

Наши убеждения об окружающем мире — это такие же карты. Это не реальность, а лишь её образ у нас в голове. Они дают прогнозы, и формируют наши ожидания о том, как себя поведёт кто-то или что-то. Вот там жди холм, вот тут идёт тропа. Начальник, наверное, злится на меня, а эта штука крутится неспроста. На их основе мы планируем жизнь. Но как и карты, не все убеждения точны. И как и с картам, и главным судьей для убеждения является реальность. Иногда мы в чём-то очень сильно уверены и сильно этого ждём, но происходит что-то другое.

Вот тут-то и притаилась проблемка. Из-за когнитивного искажения под названием наивный реализм, нам кажется, что мы видим мир напрямую. Нам кажется, что наши убеждения о реальности и есть реальность.

Как я уже говорил в статье про когнитивные искажения, мы легко признаём идею о том, что другие люди ошибаются и видят мир искажённо. Куда хуже обстоит ситуация с признанием собственной необъективности и неосведомлённости. Но люди были бы не люди, если бы под это искажение не придумали специальную философию, которая его оправдывает. Даже две.

Первой идеей в этом ключе является философия солипсизма - идея о том, реально только то, во что ты веришь. Что нет ничего реального кроме твоего сознания. Именно от радикальной формы этой философии пошли модные нынче аффирмации, ну знаете, фильм «секрет». Но настоящие солипсисты существуют только у себя в голове (простите за каламбур, не удержался).

Давайте познакомимся с куда более влиятельной на сегодняшний день философией. Имя ей - постмодернизм. И это буквально антирациональность.

Постмодернизм зародился как протест против чёрно-белой картины мира, где все знания можно поделить на правильные и ложные. Постмодернисты довольно корректно указывали на наивность такого подхода. Возвращаясь к аналогии с картами, они критиковали идею об идеально точных картах. И это в целом здравая критика. Карты и территория действительно всегда отличаются. Льюис Керрол в одном из своих произведений шутил на тему карты с масштабом километр в километре. То есть картой в реальную величину.

Да, и убеждения, и научные модели, всегда имеют некоторую степень неточности. Вот только постмодернисты идут дальше. Раз у нас нет идеальных карт, значит, все карты равны. Философ Пол Фейерабенд даже придумал для этого название: эпистемологический анархизм. Мол верь во что хочешь, и тебе за это ничего не будет.

От этой идеи пришли в восторг адепты нью-эйджа, альтернативной медицины, оккультных практик и много ещё кто. Ещё бы, ведь подобная философия фактически приравнивает силу их магии и магию зачаровывающую частицы пролетать по тридцатикиллометровому кольцу десять тысяч раз в секунду.

Убеждения согласно подобной философии, это не карты, нужные для того чтобы эффективно передвигаться по территории. А скорее одежда. Заходишь ты такой в магазин, и думаешь, а во что сейчас модно верить? А что лучше подчеркнёт мой образ?

Постмодернизм отчаянно отстаивает идею о том, что ты можешь верить во что хочешь. И это правда. Ты можешь нарисовать любую карту. Не обязательно выходить из дома, можно даже ребёнка попросить накалякать что-нибудь. Или поискать вдохновения у индийской богини Намагири. Кто я такой, чтобы ограничить тебя в этой свободе? Я лишь хочу предупредить о возможных последствиях, ведь точные карты нравятся нам больше каракуль ребёнка не просто так. Они имеют разную ценность. И вот почему:

Во-первых: точные карты позволяют ставить цели, которые существуют на территории. Представьте, мы снаряжаем экспедицию (или просто тратим весь свой отпуск на путь) до красивейшего архитектурного сооружения. А придя на место узнаём, что оно есть только на нашей неточной карте. И более того, это сооружение не просто «где-то там в другом месте», - его вообще не существует. Вы и сами можете припомнить такие ситуации. Весьма досадно. Но это закономерная расплата за неточные карты.

Во-вторых: Точные карты позволяют выбирать оптимальный маршрут. Если мы имеем достаточное количество информации о территории, мы можем сравнить различные пути достижения целей и выбрать наиболее подходящий. Причём обратите внимание, чем больше у нас достоверной информации, тем более очевиден выбор маршрута. Даже если нашим выбором будет «сложный» маршрут – это всё же будет выбор. Куда обиднее попасть на сложный маршрут интуитивно благодаря неточной карте, и героически его, преодолев, обнаружить короткий маршрут, по которому все уже давно прошли.

В-третьих: Точные карты делают территорию предсказуемее. Возможно, у нас ещё нет цели, и мы не строим никакой маршрут. Тем не менее даже на прогулке хорошо бы снизить количество «сюрпризов». Ведь они могут быть как приятными, так и фатальными. Мы либо знаем, что за поворотом, либо нет.

Предсказуемость важна, даже если мы собираемся просто сидеть на месте. Ведь территория непрерывно меняется. А если преуспеть в отрицании ценности точных карт, можно не заметить приближающийся ледник, пока он вежливо не попросит нас подвинуться.

Реальность не интересуется нашими убеждениями о том, как она должна работать. У неё просто нет такого механизма. Не происходит ничего напоминающего выборы, когда реальность опрашивает, а работает ли сегодня, по мнению людей гравитация. До открытия гравитации, люди падали преимущественно вниз, как и сегодня. И это происходило вне зависимости от их убеждений.

Это никак не может изменить не сила нашей уверенности в убеждениях, ни количество людей, которые также уверены в чём-то. Если два инженера простят друг другу общие ошибки, то обе собранные ими ракеты всё равно не полетят! Даже если все инженеры мира соберутся и договорятся считать незначительным некоторое нарушение в сборке ракет и Илон Маск напишет об этом в своих соцсетях, эти ракеты с ошибками всё равно не полетят. Люди не решают, какими будут законы природы. Мы не придумываем точные карты, мы рисуем их, смотря на территорию.

P.s.

Так что идея о том, что никто не может быть абсолютно прав и идея о том, что все правы в равной степени не одно и то же. Да, идеальных моделей в науке нет. И в жизни мы не можем быть уверены в чём-то на 100%. Всегда есть некоторая неопределённость. И поэтому мы обречены ошибаться, ошибаться и ещё раз ошибаться. Но мера этой самой неопределённости разная. Что позволяет нам ошибаться меньше, и меньше, и меньше. Если мы, конечно, этого хотим. И как сказал фантаст Айзек Азимов:

Люди ошибались, считая землю плоской. Люди ошибались, считая землю сферичной. Но если ты считаешь, что первые и вторые ошибались в равной степени, ты более неправ, чем те и другие, вместе взятые.