bayesyatina

«То, во что люди верят, не ощущается ими как вера, они просто думают, что мир такой и есть» Элиезер Юдковский.

Изображение, прикреплённое к этой статье, нужно для калибровки монитора по цветам. Я посчитал это забавной аналогией, ведь калибровка монитора позволяет скорректировать изображение, чтобы оно отображало картинку ближе к реальности. Калибровка убеждений, о которой сегодня пойдёт речь, занимается примерно тем же.

Если я регулярно утверждаю, что в чём-то сильно уверен, и постоянно удивляюсь тому, что реальность устроена иначе, то такое состояние дел называется сверхуверенностью.

Если я, обладая необходимой для корректной оценки информацией, продолжаю сомневаться и пропускаю выгодные предложения, это называется недостаточной уверенностью. Я бы назвал это скромностью, но это слово имеет положительный окрас. А обе эти стратегии имеют одну и ту же проблему – плохая калибровка.

Что же это такое? Хорошая калибровка, это когда то, в чём я сильно уверен, оказывается правдой чаще, чем то, в чём я просто уверен, и чаще того, в чём я уверен слабо. То есть откалиброванные убеждения — это когда я знаю, в каких из моих прогнозов более вероятна ошибка, а в каких менее.

При этом калибровка не имеет ничего общего с точностью. Если я изучаю новую для себя тему и заявляю: «блин я ничего об этом пока не знаю», это будет отличной калибровкой. Но она не позволяет мне делать точных прогнозов.

Исследователи Альперт и Раиффа задали испытуемым 1000 вопросов по общеизвестным темам (из разряда «сколько таксистов работает в вашем городе?»). Затем их попросили обозначить 98% доверительный интервал для всех ответов.

Остановимся ненадолго на понятии доверительный интервал. Это когда вы говорите что-то вроде: таксистов с 90% вероятностью больше, чем 500, но меньше, чем 500 тысяч. То есть 90% доверительный интервал означает, что вы ожидаете ошибиться один раз из десяти, а 50% когда ожидаете ошибок каждый второй раз. И ошибиться здесь значит, выяснить, что в реальности оценка ниже или выше установленных вами порогов. В общем-то доверительный интервал это и есть то, как вы можете пощупать свою уверенность в «натуре».

Вернёмся к испытуемым, которые обозначили свои девяностовосьмипроцентные интервалы. В идеале мы должны были бы ожидать, что в среднем 980 ответов из 1000 окажутся в доверительном интервале, и всего 20 выпадут.

Но выпало 426…

Ближе к концу статьи я расскажу, что придумали исследователи для борьбы с плохой калибровкой и что из этого вышло. Но для начала чуть глубже разберёмся в чём же собственно проблема.

На дискавери, во времена, когда я был маленький и у меня был телевизор, показывали передачу, где люди покупали невостребованные транспортные контейнеры. Проводился аукцион и люди могли приобрести «кота в мешке», посмотрев лишь то, что находится непосредственно за дверью.

В контейнере могла находиться старая рухлядь, или дорогущий ретро автомобиль. Покупатель мог заработать на своей покупке или потерять деньги. И по-моему, это хорошая демонстрация для принципа калибровки.

У нас в голове есть представления о том, что находится в контейнере. В реальности контейнер содержит конкретный товар, имеющий конкретную стоимость. Там вовсе нет никакой «квантовой неопределённости» и кот в мешке вовсе не полужив полумёртв. Но наши представления о содержимом контейнера строго вероятностны.

Я делаю 10 прогнозов по поводу стоимости содержимого 10 контейнеров. Пусть я предполагаю, что в каждом контейнере содержится товара на 10 тысяч. Для того чтобы решить, сколько заплатить, я не могу просто перемножить 10 тысяч на 10 контейнеров и немного убавить для получения прибыли. Шаг, которого не хватает и является калибровкой. Я должен предположить, что, несмотря на мою сильную уверенность в оценке, я всё равно могу ошибиться. Но сколько ошибок я буду от себя ожидать? Столько же, сколько допускал раньше в случае такой же уверенности. На прошлой неделе я покупал контейнеры и был так же уверен, но лишь 7 из них содержали товар на нужную сумму, остальные 3 были наполнены барахлом. А значит интуитивное чувство такой «сильной уверенности» в моём случае обычно указывает на верный прогноз с 70% вероятностью.

В этом-то и проблема, обычно сильная уверенность ассоциируется с гораздо большими цифрами. Мы переводим наше интуитивную уверенность в цифры очень плохо. И я сейчас вовсе не об абстрактных формулах на бумаге, когда мы принимаем решения, мы постоянно опираемся на подобные оценки, даже если явно их не проговариваем. Но когда кто-то заявляет о том, что уверен на 98%, он обычно не имеет ввиду, что в 1000 подобных прогнозов он ошибся лишь 20 раз (если вы давно читаете этот блог, то думаю в курсе, что уверенных в чём-то на 100% карает особо изощрёнными способами преподобный Байес).

Фишхоф, Словик и Лихтенштейн подтвердили эту проблему в своём эксперименте. Когда испытуемые делали ставки 1:1, 2:1, и 3:1 (то есть с уверенностью 50%, 66,6% и 75%) всё было довольно неплохо. Проблемы начинаются выше, потому что по мере поднятия ставок от 3:1 почти ничего не менялось. То есть люди оказывались правы всё так же в 3 случаях из 4, но называли всё большую степень уверенности. При ставке 100:1 верными оказались 73% ответов, при 1000:1 верными оказались 81%...

То есть проблема калибровки — это несоответствие того, как мы оцениваем свою уверенность, и того, как её следовало бы оценить. Там, где нужно было бы поставить 81 к 19, мы ставим 1000 к 1. Больше того, эксперимент демонстрирует склонность людей к высоким ставкам, четверть ставок были выше, чем 100:1.

Чуть лучше ситуация, когда ставки у нас в жизни означают буквально деньги. Если незнакомец предлагает купить его машину, вы чувствуете, что вам нужно либо больше данных, либо вы не будете платить рыночную стоимость. Если вам не дадут прокатиться на автомобиле, это снизит вашу оценку. Если за автомобиль проучится хороший друг или родственник – повысит. Но несмотря на то что ставка деньгами делает ситуацию лучше, она всё же не исправляет её в достаточной мере (примеры в ролике о старте бизнеса).

Если же деньги не задействованы, то ситуация гораздо хуже. Плохая калибровка в значительной степени связана с ошибкой планирования, я даже изначально хотел запихнуть всё это в однин пост. Вот довольно практический пример, который я оставил для этой статьи. Бюхлер попросил своих студентов оценить, в какие сроки они сдадут свои курсовые. Причём он попросил сделать три прогноза – с вероятностью 50%, 75% И 99%. В 50% сроки уложились только 13% (при идеальной калибровке было бы 50%), в 75% сроки уложились 19%, и в 99% завершили 45%...

Можно ли улучшить ситуацию? Вообще-то, да. Кое-что я упомняул в статье про ошибку планирования. Что же может сильнее улучшить ситуацию? Альперт и Раиффа (из начала статьи) провели повторный эксперимент. Они полностью повторили изначальные условия, но перед тем, как дать испытуемым приступить к работе они показали результаты прошлого эксперимента и разъяснили концепцию калибровки. Затем испытуемые так же установили 98% доверительный интервал, и на этот раз в среднем выпали 190 ответов, что сильно лучше прошлого раза (однако довольно далеко до 20 в случае идеальной калибровки). Так что если вы дочитали до конца то, пожалуй, кое-что полезное вам уже удалось сделать.

P.s. Думать о плохой калибровке собеседника в момента спора (или, что ещё хуже, использовать это в качестве аргумента) - верный путь в долину плохой рациональности.

Невидимые дети

Начнём мы с истории Ханса Рослинга из его книги «Фактологичность». Рослинг специалист по статистике и эксперт в области международного здравоохранения. Как связаны эти два направления? Скоро узнаете.

На заре своей карьеры он, гражданин Швеции, отправился работать врачом в Мозамбике в рамках проекта «врачи без границ» (он был одним из основателей Шведского отделения). Они с коллегой были двумя врачами на 300 тысяч населения.

Это не самый простой опыт. В день в больницу попадали примерно по три тяжелобольных ребёнка. Каждый двенадцатый умирал там же. Оснащение больницы и количество персонала не позволяло спасти больше.

Однажды на выходные к Рослингу приехал его друг — шведский педиатр, который работал в более крупном городе Мозамбика в больнице с лучшим оснащением. Была суббота, но Рослинга срочно вызвали на работу. На пороге они встретили перепуганную мать с ребёнком, страдающим от жуткой диареи. Женщина была так слаба, что у неё пропало молоко. Рослинг осмотрел ребёнка, установил питательную трубку и велел вводить через неё раствор для регидратации.

Друг Рослинга открыто раскритиковал такое назначение, обвинив его в том, что он просто хочет вернуться домой пораньше. Рослинг пояснил, что такова стандартная процедура, а на установку капельницы уйдёт куча времени, да ещё и медсёстры могут потом и напортачить с повторной установкой. Но главное, Рослинг заметил, что он действительно спешит на ужин с семьёй, ведь иначе он не протянул бы тут и месяца.

Друг Рослинга не принял эти аргументы и остался на несколько часов для установки капельницы в тончайшую Вену. Когда он вернулся домой к Рослингу, то продолжил настаивать на своём: ты должен делать всё возможное для каждого пациента.

На что Рослинг ответил: нет, я не имею права тратить все мои ресурсы и время на спасение тех, кто обратился в больницу. Я в ответе за все детские смерти в этом округе, а не только за те, что происходят у меня на глазах.

Как вы считаете, кто прав в этом споре?

Добавлю немного фактов: в больнице в тот год погибло 52 ребёнка. А в округе, который курировал Рослинг, произошло больше 3000 детских смертей. Рослинг сделал упор на обучение деревенских фельдшеров, которые вакцинировали детей и начинали лечить наиболее опасные болезни, не требующие серьёзной квалификации в тех пунктах, до которых люди могли добраться пешком.

Мне кажется, нужно иметь довольно много мужества и рациональности, чтобы отвернуться от умирающего ребёнка, при этом не отвернувшись от сотен безымянных детей, которых ты не видишь. Гораздо проще было бы считать себя героем, игнорируя всё, что находится вне поля твоего зрения. Но Рослинг был слишком хорошо знаком с тем, что он называл жестокой математикой нищеты.

Друг Рослинга с лёгкостью настаивал на том, что каждая жизнь бесценна. Вот только руководствоваться этим принципом — значит считать, что одна жизнь стоит столько же, сколько стоят тысячи или миллионы жизней. Если же мы хотим спасти больше жизней, то считать так неэффективно, хотя очень хочется.

Удобные назначения

К сожалению, эффективные методы зачастую и «выглядят» некрасиво и менее удобны. Кардиолог Ярослав Ашихмин в своём выступлении рассказывает, к чему это приводит. При аритмии есть два альтернативных метода лечения. Один из них — с использованием так называемых антиаритмиков класса 1ц. Этот способ обожают и пациенты, и врачи, ведь он быстро снимает симптомы, а побочные эффекты от него минимальны. Врачей, назначающих такой вид лечения, очень рекомендуют друзьям и знакомым. Альтернативой выступает лечение без антиаритмиков. Но в этом случае довольно неприятная симптоматика не снимается, что не нравится пациентам. Это к тому же неудобно врачам, вынужденным объяснять пациенту зачем он мучается. Проблема состоит в том, что пациенты в первом случае (с антиаритмиками) умирают значительно чаще. Такая вот дилемма: человеческая жизнь или комфорт.

Задача об азиатской болезни

Нечто подобное демонстрирует Даниель Канеман в эксперименте «задача об азиатской болезни». На всякий случай скажу, что задача появилась задолго до пандемии коронавируса. Я приведу немного модифицированную её версию.

Страна готовится к эпидемии необычной азиатской болезни, которая убьёт тысячу человек. И предложены два альтернативных метода борьбы с ней, с разными прогнозами. Тебе предстоит выбрать метод, считая, что прогнозы точны.

И так первый метод борьбы позволит гарантированно спасти 800 жизней.

Второй метод с вероятностью 90% спасёт всю тысячу человек, но с вероятностью 10% никого из них спасти не удастся.

Многие люди выбирают гарантированное спасение. Но математическое ожидание такого выбора хуже. Приняв такое решение сотню раз, вы спасёте 80 тысяч человек, а приняв второе решение сотню раз, вы спасёте 90 тысяч. И многие восклицают, мол как можно считать жизни и подвергать людей опасности, играя в это как в азартную игру?

Но вот что интересно. Канеман переформулирует задачу следующим образом:

Первый метод гарантированно убьёт 200 человек.

Второй метод с вероятностью 90% сохранит все жизни, и с вероятностью 10% не сможет их сохранить.

В этой формулировке респонденты резко меняют своё решение. Потому что теперь гораздо комфортнее с моральной точки зрения выбрать второй вариант. То есть даже в мысленных экспериментах мы выбираем не то, что эффективнее и спасёт больше человеческих жизней, а то, что нам комфортнее сказать.

Медицина и твоё мнение

И именно медицина, с которой мы начали ролик, является областью, где подобные мысленные эксперименты превращаются в практические задачи. Легко говорить, что каждая жизнь стоит любых потраченных на неё денег. Но когда вы, как Рослинг, влияете на распределение бюджета в мировом здравоохранении для вас абсолютно бесполезен данный принцип. Он не позволит принимать правильные решения. Он не позволит отказаться от сбора 700 тысяч долларов для оплаты одной трансплантации костного мозга и потратить эти же деньги на закупку противомоскитных сеток в Африку, способных спасти от малярии около 200 детей.

И здесь не получится рассуждать в стиле «ну это решает кто-то другой», ведь общественное мнение (то есть лично твоё) определяет какой поступок комфортен человеку, принимающему решение, как в случае с врачами и антиартимиками.

Как мы принимаем решения?

Всё это тесно связано с таким понятием как консеквенциализм. Упрощая, это принцип принятия решений, когда ценным считается результат, а не то, как это решение выглядит или то, кажется ли оно красивым. Но почему для нас так не естественен подобный подход?

Ответ частично уже звучал. Многие решения принимаются вообще не оптимизируя количество спасённых жизней. Нам важен сам процесс и то, что он принесёт. В случае с кардиологами, назначающими антиаритмики — это рекомендации и положительная обратная связь. В случае со спасённым ребёнком в Мозамбике — это тёплое чувство в груди, которое Скотт Александер называет пушистиком. Ну знаете, когда перевели бабушку через дорогу. Чувство обратное стыду. Ну а в случае с Каннемановской задачей мы просто пытаемся транслировать сигнал в социум о том, какие мы молодцы. И в этих мотивах нет ничего плохого, пока они не преграждают путь эффективности.

Здорово, если люди увлекаются какими-нибудь экологическими штуками вроде переработки отходов, потому что им нравится транслировать вовне образ себя как ответственного жителя нашей планеты. Однако что если они таким образом делают не лучшее из возможного? Вдруг им стоило бы распорядиться ограниченными ресурсами иначе? А может они и так избрали лучшую стратегию? Но абсолютно точно, это невозможно оценить, если хотя бы не попробовать. И есть организации, которые делают попытки оценить это. Это направление известно как эффективный альтруизм, и я не буду останавливаться на нём подробно, при желании вы сами ознакомитесь с ним, и разберётесь, насколько лучше или хуже вас они справляются с такой оценкой.

Любить людей или деньги?

Я лишь хотел донести мысль о том, что, людям, которые хотят приносить больше пользы в реальном мире приходится считать ограниченные ресурсы. Отказ от оценки человеческой жизни не просто не делает лучше, он строго делает хуже. Он отдаёт решение на откуп монетке — как иронично. Чтобы помогать людям нужно считать деньги, или даже любить их (однако ваша любовь к деньгам не всегда порождает желание помочь людям). Помню, как меня удивила и восхитила фраза: «я люблю деньги», сказанная Нютой Федермессер, пионером паллиативной помощи в России и учредителем фонда помощи хосписам. В этой фразе вовсе не было посыла, который транслируют исполнители современному поколению. В её исполнении фраза несла смысл: человеческая жизнь имеет цену в деньгах, а я люблю человеческие жизни.

Цена и ценность

Думаю, моя позиция в данной статье довольна прозрачна. Поэтому настало самое время всё запутать. И сделаю я это простым вопросом: неужели я считаю, что ценность человеческой жизни можно приравнять к стоимости автомобиля?

Ответ на этот вопрос связан с тем, что цена и ценность — это разные понятия. А чтобы пояснить это наглядно, я обращусь к притче от Найта Соарэса (оригинал, перевод).

Когда-то давно существовала деревня мирных бессмертных людей. Они не старели в биологическом смысле. То есть вероятность смерти не зависела от прожитых лет. Но они всё ещё могли умереть от голода или повреждений. Так было до появления дракона.

Я уверен, вы знаете, что драконы желают получить от людей две вещи: золото и плоть. Дракон, дал жителям мрачный ультиматум:

Каждый человек в этой деревне должен ежегодно платить налог золотом, количество которого равно возрасту этого человека. Всякий, кто не сможет заплатить, будет съеден.

Жители деревни умоляли, стоя на коленях, рыдали и приходили в ярость, но дракон оставался непреклонен. Он просто показал им несколько скал, в которых, вероятно, можно было сделать хорошие золотые прииски и приказал им приступать к работе.

Люди старались изо всех сил. Сельчане работали не покладая рук, откидывая камни в сторону, копали землю голыми руками, разбивая пальцы до крови, мало охотились и старались как можно меньше заниматься собирательством, и даже перестали заботиться о своих жилищах — но всё равно, не смогли отдать налог дракону. В конце года дракон вернулся и забрал всё золото, которое у них было, и десять самых старых сельских жителей (отдав старейшин, удалось спасти большинство жизней).

Обезумев, жители деревни решили попробовать снова. Они подвергли себя ещё большим аскезам в попытке успеть к назначенному сроку, становясь всё более изнурёнными. Их глаза поблёкли, кожа болезненно пожелтела, а руки стали безжизненными. И в следующий раз, когда пришёл дракон, он забрал всё золото и пятьдесят жителей.

Стратегия не работала.

Но изобретательность – одно из главных человеческих качеств.

Таким образом, на третий год выжившие пришли к горькому осознанию своего положения и снова начали охотиться, заниматься собирательством, становились сильнее и здоровее, и признали, что им придётся заботиться о себе, прежде чем они смогут позаботиться о своих близких. Они приступили к созданию кирок и лопат, понимая, что голыми руками справиться не удастся.

В конце третьего года дракон снова забрал всё золото и сотню жителей, поскольку их стратегия ещё не начала приносить плоды.

Но в конце четвёртого года дракон забрал всего двоих.

Вскоре после этого дракон (восхищаясь их прогрессом) сообщил жителям деревни, что теперь налог будет расти быстрее, экспоненциально их возрасту.

На этот раз жители деревни лишь только кивнули и преобразовали свою горячую ярость в холодную решимость.

Прошло много лет с тех пор, как дракон впервые пришёл в селение. На самом деле, всё сильно изменилось: деревня выросла до города, а город вырос до цивилизации.

Старейшины стали мыслить продуктивнее и поняли, как получать больше золота в час, но стало приходить время, когда эта повышенная производительность больше не стоила затрат на жизнь. И когда это время настало, старейшины были готовы к своей судьбе, потому что понимали, что их жизнь не стоила двух других.

На самом деле жёсткие компромиссы, подобные этим, стали обычным явлением. Жители деревни давно открыли экономику и специализацию, и теперь большинство из них не работало в шахтах. Некоторые из них стали проводить время за готовкой или выращиванием растений для пропитания, другие стали тратить время на совершенствование жилищ, появились и мастера, занимающиеся разработкой новых инструментов и механизмов, которые бы поспевали за грабительским налогом дракона.

Удивительно, но есть и те, кто посвятил свою жизнь искусству и развлечениям, ведь жители осознали важность поддержания мотивации и морального духа.

(А тем временем, некоторые жители, глубоко под землёй, подальше от любопытных глаз дракона, разрабатывали оружие)

Таким образом, вы можете обнаружить в этой цивилизации людей, которые посвящают свою жизнь не добыче золота, а написанию книг, но если вы посмотрите внимательно, то заметите, что это происходит только тогда, когда писатель может спасти больше жизней за счёт роста производительности и морали, чем за счёт своего труда в шахте. И потому эта цивилизация, одержимая сохранением жизни тому количеству людей, скольких может спасти ежегодно, все ещё создаёт книги, пьесы и фильмы.

Это означает, что в настоящее время вы можете рассчитать точную цену спасения каждой жизни. И оказывается, что одна жизнь равна примерно той же цене, что и тысяча билетов в кино.

Но цена и ценность не одно и то же. Факт о том, что человеческая жизнь приравнена к стоимости 1000 билетов в кино вовсе не означает, что у них одинаковая ценность. Это факт о том, что если мы вместо непосредственного спасения жизни можем получить две тысячи билетов, а с ними рост мотивации и морального духа, то это может спасти больше жизней.

Возвращаемся в реальность

Но это в вымышленном мире. В нашем мире экономика неэффективна. И когда спасение жизни в развитых странах может стоить миллионы долларов, спасение жизни где-нибудь в странах третьего мира может стоить несколько тысяч долларов.

И это тем не менее вполне конкретный диапазон цен. Представь себе кнопку, которая с шансом один на миллион убивает случайного человека. Сколько тебе должны заплатить за нажатие такой кнопки, чтобы ты согласился? Ответ «нисколько» понятен, но чудовищен по отношению к другим людям. Вождение автомобиля - эквивалентно нажатию такой кнопки, потому что убивает с вероятность 1к10 тысячам одного человека в год согласно статистике. Только в случае с автомобилем ты не получаешь деньги, а лишь комфорт от передвижения. А в случае с кнопкой ты мог хотя бы назвать 10 долларов. Ведь нажатие такой кнопки миллион раз убило бы одного человека, но вырученные 10 миллионов долларов ты мог бы потратить на спасение более чем одного. Спорно? Но ведь ты мог назвать вообще любую сумму, и помочь любому количеству людей. Мысленный эксперимент далёк от реальности, но даже в нём хочется отдать всё на откуп монетке.

Но почему всё устроено так несправедливо? Почему при общем согласии о бесценности человеческой жизни мы должны назначать ей цену? Всё из-за дракона.

Может я скажу банальные вещи, но, к сожалению, они не так очевидны, как кажется. Жизнь — это хорошо, здоровье — это хорошо; красота, счастье, веселье, смех, решение сложных задач, возможность учиться — всё это хорошо. И чем больше, тем лучше. Без ограничений.

Дракон не так уж плох?

Но не все жители нашей с вами деревни считают дракона таким уж плохим (под деревней я имею в виду всё человечество). Почему?

В массовой культуре куча шаблонных мыслей про смерть. Таких мыслей, которые вызывают социальное одобрение, и иногда даже ощущение глубокой мудрости. Ну вы всё их знаете: например, «смерть придаёт смысл жизни». Но представь, что ты родился бессмертным. И тебе предлагают стать смертным, но зато ты будешь знать, что скоро умрёшь. И, видимо, это тебя особо замотивирует на что-то. Как предложение? По мне, не очень. Но рационализация заставляет нас видеть что-то хорошее в этом.

Персонажи ищущие бессмертия в массовой культуре поголовно злодеи. Учёные работающие над радикальным продлением жизни или борющиеся со смертельными заболеваниями вовсе не являются таковыми. Но они как мы помним где-то глубоко под землёй, а билеты, которые мы приравняли к цене человеческой жизни, продаются в кино, где герой не может желать бессмертия.

Следующий стандартный шаблон: «эволюция не просто так сделала нас смертными». Но цели наших генов и наши личные цели вовсе не должны совпадать. Да, смерть заложена генетически. Как и смертельные и наследственные заболевания. Это вовсе не повод с ними бороться. На самом деле даже действия животных тоже не является непосредственным выполнением прихотей генов. Самец богомола не мечтает погибнуть в объятии самки аки скандинавский воин мечтает погибнуть в бою и очутиться в Вальгалле. Они хотят жить и вырываются, с некоторым шансом на успех.

Вот ещё один шаблон: «если мы будем жить сильно дольше, наступит перенаселение». Однако экономическое развитие имеет стойкую корреляцию с рождаемостью, а та в свою очередь определяет население нашей планеты. Сейчас мы находимся на спадающей по скорости рождаемости, и к 100 году прогноз ООН обещает нам всего 12 миллиардов населения. Но подробнее про это в другой раз.

Следующая стандартная мудрость: слишком сложно правильно всё оценить. Да, конечно, посчитать цену человеческой жизни не так просто. Как и принимать правильные решения. В нашем чаепитии с Александром Панчиным он указал на одну из очевидных дилемм: если разобрать людей, которым осталось жить недолго на органы, то это спасёт больше человеческих жизней. Но такой мир, куда менее приятен. Мозг сложная штука и в ней есть сложнейшая иерархия желаний, зачастую противоречивых и непрерывно изменяющихся во времени. Всё больше подобных дилемм возникает с развитием искусственного интеллекта, который должен принимать решения, например при вождении (что переводит мысленные эксперименты в область практических решений). Но сложность такой задачи не должна вызывать отказ от попыток её решать. Ведь подобный отказ слишком сильно напоминает отказ видеть детей, умирающих вне поля зрения. И по эффективности, и по уровню комфорта.

А ещё вспомнил, жить дольше 100 лет будет скучно. Утопия Шоу в своём ролике про бессмертие приводит эталонный контраргумент: если человеку сообщить, что ему осталось жить неделю, то он забьёт всю неделю важными делами. Но если через неделю спросить, успел ли он всё, он ответит отрицательно. Дав ему ещё неделю, он вновь не успеет. Он не успеет никогда. Конечно, человек в преклонном возрасте может утверждать, что устал от жизни. Но это рассуждения вышедшей из строя гормональной и нервной систем. Вечно молодой человек совсем другое дело. И когда мы говорим о радикальном продлении жизни, мы не имеем в виду обвешанные трубками тела, уставшие от бесконечной боли. Мы говорим о 700 летних архитекторах с юношеским вдохновением, создающих шедевры недостижимые за жизнь человека.

Ну и последний на сегодня шаблон из куда более обширной их коллекции: «Откуда ты знаешь, что биологическое бессмертие возможно?». На самом деле не знаю. У нас пока есть лишь гипотезы и исследования на эту тему. Рекомендую вот эту лекцию, с обзором самых интересных научных достижений в этом вопросе. Но исследования по пути к бессмертию, даже если оно невозможно направлены на улучшение качества и продолжительности жизни. А следовательно, направлены на снижение её цены, при сохранении ценности.

P.s.

Я считаю важным донести мысль, что смерть дракона — это единственная хорошая и оправданная смерть. Даже когда сторонники смертной казни указывают на то, что иногда смерть полезна, они всё же имеют ввиду, что таким образом, по их мнению, удастся спасти больше жизней. Правы ли они в своём прогнозе? Ну уж точно они согласны с тем, что больше спасённых жизней это хорошо.

Благодаря распространению озвученных выше и непрозвучавших сегодня шаблонов в массовой культуре мы, как и некоторые жители деревни забываем о драконе. Может это и правильно, ведь сначала нужно позаботиться о себе, вместо того чтобы голыми руками копать шахту. Становиться бедняками это вряд ли лучшее решение, ведь тогда спасать придётся нас, а не нам. Но с забвением идей о борьбе с драконом мы перестаём ценить учёных, которые прямо сейчас в подземных лабораториях разрабатывают оружие против него. Продолжаем коситься на врачей, считающих цену человеческой жизни для её спасения. И продолжаем плодить мысли о том, что дракон не так уж и плох.

Умные люди верят в странные вещи, потому что они умеют защищать убеждения, к которым они пришли по неумным причинам, - Майкл Шермер

Математик Джон Тьюки, человек который придумал слово бит, обратил внимание на то, что люди мыслят как бы в двух режимах. Первый режим, это когда ты подтверждаешь то, что хочешь подтвердить. Второй - когда ты пытаешься изучить вопрос и понять как на самом деле.

Для первого режима есть название — рационализация или мотивированное мышление. Это чем-то напоминает поиск решения, когда ты заглянул в ответы в конце учебника, и узнал к чему нужно прийти. Правда существует серьёзная разница: в жизни ответы, которые у тебя есть, не всегда верны.

Но как можно подогнать решение к неверному ответу? О, человеческий мозг — это идеальный инструмент для выполнения такой задачи, отточенный миллионами лет эволюции. Мы произошли от тех, кто смог убедить племя, что нужно убить ненавидимого ими соперника. Рационализация — это не прямое следствие такой оптимизации, а скорее побочный эффект. Учась убеждать других, мы случайно научились убеждать себя. Всё как в моей истории про дебаты, правда, в масштабе человечества.

Это явление включает в себя целый набор когнитивных искажений. Все их объединяет то, что они направлены на сохранение имеющихся убеждений. Вам ничего не нужно делать, чтобы этому научиться, всё и так уже происходит автоматически. А вот чтобы разучиться, нужно прилагать усилия. Причём не приложить, а именно прилагать постоянно. Когнитивные искажения - это не штуки, которые можно вытряхнуть из мозга хитрыми приёмами, это собственно мозг и есть.

Наиболее топорный пример рационализации - это когда я просто выдумываю на ходу аргументы в подтверждение своей позиции. Давайте не будем юлить, все так делали, по крайней мере, в детстве, и вам хорошо знакомо это ощущение.

Однако не всегда аргументы приходится выдумывать. Теорема Байеса как бы подсказывает, что даже по самым определённым вопросам наберётся парочка слабых аргументов против. Что и говорить, о более дискуссионных темах. Но баланс свидетельств в большинстве случаев укажет в нужном направлении.

Однако речь идёт о полном балансе свидетельств, но мы-то принимаем большинство решений в условиях неопределённости. Позвольте процитировать CEO Amazon Джеффа Безоса: «большинство решений, скорее всего, нужно принимать, имея около 70% желаемой информации». Думаю это довольно оптимистично, и в действительности мы действуем с куда меньшим количеством информации (хотя фраза «желаемой информации» не равна фразе «максимально доступной информации», и с учётом этого цитата уже куда реалистичнее). Принимая решение на основе неполной информации (то есть примерно всегда), мы можем стать жертвой ошибки выжившего, или её статистической сестры систематической ошибки отбора (selection bias). Суть их можно проиллюстрировать одной фразой: рассказы об уме и доброте дельфинов основаны на рассказах уставших пловцов, которых они толкали к берегу, но мы лишены возможности услышать рассказ тех, кого они толкали в другую сторону.

Но это просто ошибка работы с данными, при чём тут рационализация? Дело в том, что мы можем сформировать для себя подобную ошибку, выбрав реальные свидетельства, но подтверждающие лишь одну позицию. В науке такое поведение получило название «сбор вишенок» (cherry picking). Это когда мы ищем «свидетельства за» на тематических форумах соратников, и обходим стороной «свидетельства против» как бы случайно игнорируя их потенциальные источники. Крутым индикатором здесь будет то, как вы вбиваете запросы в поисковик, при поиске свидетельств. Что можно получить при поиске «аргументы за Х»?

И кстати, память — ненадёжный инструмент, что является темой для отдельной статьи. Но здесь нам интересен эффект под названием «подтверждающая память». По умолчанию мы лучше запоминаем информацию, подтверждающую текущие убеждения. И даже если мы сталкиваетемся со свидетельствами против, наш мозг заботливо отправляет эту информацию в утилизацию небольшими порциями.

Другой чуть более сложный в обнаружении метод - это мотивированный скептицизм. Если мы направлены на поиск фактической ситуации, уровень нашего скептицизма и требовательности к силе доказательств будет одинаков вне зависимости от того, подтверждают ли эти доказательства какую-либо гипотезу или опровергают. Однако если мы решаем задачу зная «правильный» ответ, то будем крайне придирчивы к качеству аргументов против него.

Ещё один лик рационализации – это выбор момента остановки вашего исследовательского поиска. Если мы знаем «правильный» ответ, и находим пару аргументов за, то мозг стремится остановить дальнейший поиск. Зачем тратить ресурс, если мы уже всё доказали как надо? Однако он не будет столь ленив, если аргументы нашлись в основном против. Тогда наш мозг засучит рукава и будет копать на полный штык, продолжая поиски пока не придёт к «нужному» выводу. Если же баланс свидетельств никак не будет складываться в нужную картинку, появится соблазн объявить вопрос недоисследованным, продолжив сомневаться в «неправильном» выводе.

Пожалуй, самый продвинутый способ обмануть себя это произвести ритуал сомнения. Это уже, рационализация второго порядка. Тут мы, имея убеждения на какой-то счёт, обнаруживаем, что они были получены путём мотивированного мышления. Тогда мы имитируем нормальный процесс мышления и в итоге приходим к тем же убеждениям. Я называю этот процесс «легализацией убеждения». И конечно, иногда наши рационализированные убеждения бывают точны. Однако, если вы регулярно сомневаетесь в своих убеждениях, но никогда не находите убедительных аргументов против них, думаю, вам стоит начать что то подозревать. А ещё подумать над следующим вопросом: Каким чудесным образом вы получили такой изумительный набор убеждений методом, который вообще-то довольно хаотичен. Это маловероятно. Примерно как знать о мире достаточно и не ошибаться в своих прогнозах только окончив школу.

Вот такой вот подарок от предков зашит в голове каждого из нас. Убеждения гораздо продуктивнее было бы воспринимать как листочки бумаги, лишь часть из которых верна. И если вы узнаете, что некоторый лист бумаги у вас содержит ошибку, просто замените его на верный.

Представьте себе ситуацию. Вы пришли к убеждению о том, что этот ноутбук лучший за свою цену. Друг спрашивает вас: «а почему ты так считаешь?». Ты, не особо задумываясь, воспроизводишь свои рассуждения: вспомнишь видео таких-то техноблогеров, обзоры таких-то моделей, и сравнение таких-то технические характеристики. Друг сообщает тебе новую информацию, о том, что по этим параметрам есть вариант лучше. Жаль, но станешь ли ты настаивать на изначальной уверенности? Скорее всего – нет. На момент принятия решения исходя из данных, что у тебя были - выбор сделан оптимально. Но с обновлённой информацией - нужно просто выкинуть листочек и заменить его на новый. Проверочный вопрос: ноутбук ломается, ты приходишь в магазин и тебе предлагают замену в том же ценовом диапазоне. Какой ноутбук выберешь теперь? Всё просто, если не держаться за старые убеждения.

Но наш мозг на довольно глубоком уровне сопротивляется удалению имеющихся листочков. Многие идеи мы воспринимаем как важные элементы самоидентификации (особенно если вложились в них репутационно, деньгами, временем или другими ресурсами). Поэтому отказ от них по умолчанию ощущается как предательство себя и всех думающих так же.

Порой мы держимся за убеждения настолько сильно, что нам приходится игнорировать не просто контраргументы. Мы начинаем сомневаться в том, что есть какие-то верные листочки. В том, что доказательства имеют какой-то смысл. Я называю это «защитой на дальних подступах». Иногда это принимает вид: «да кто я такой, чтобы рассуждать о том, что правильно» (это, конечно же, нужно читать как обращение к собеседнику: «кто ты такой для этого?»). Сохранение некоторых особо абсурдных листочков заставляет людей отрицать возможность что-то изучать, понимать и доказывать.

Однако даже в таком случае доказательства работают и меняют мнение людей. Ведь когда человек говорит: «это просто работает, а вся ваша идея более правильных листочков - ерунда» или «нет никаких правильных моделей, есть просто разные взгляды на мир» он будет убеждать вас в своей правоте с помощью… доказательств. Поэтому в следующей статье мы разберём под другим углом (нежели здесь), что такое доказательства и как они работают (и работают ли вообще?).

Наука строится на наблюдениях, а Вера - это отрицание наблюдений для сохранения собственных убеждений, - Тим Минчин

Книги и фильмы об успешном успехе очень любят идею: «ты всё сможешь». Мне кажется, что они просто не читали туториалы к нашей с вами игре.

Обычно в играх если есть дверь, то заботливый разработчик подпихнул тебе уровнем раньше подходящий ключ.

В нашей игре мало того что ключа под рукой может не оказаться, его могли вообще забыть нарисовать. Нет, нормально? Иногда двери есть, а ключа к ним ВООБЩЕ нет.

Вот есть дверца с надписью perpetuum mobile. Ключ от неё кто только не искал. Какие-то ребята посмотрели исходный код, и оказалось, что его нет. Парижская Королевская академия наук даже перестала принимать чертежи ключей, чтобы направить энтузиазм игроков в более адекватное русло.

В нормальных играх, если есть босс, то его обязательно можно победить. Нужно только затариться квестовыми предметами и прокачать персонажа до необходимого уровня.

У нас ничего подобного. Ни сюжета, ни правильной последовательности прохождения, ни гарантий, что конкретных боссов вообще можно одолеть. Ерунда какая-то. Нигде не всплывает плашка «рекомендуемые навыки и предметы для данного квеста». Всё на свой страх и риск. Приглянулся мне какой-нибудь босс, сиди и думай, какие навыки прокачать, какие предметы собрать. Комьюнити спешит помочь с советом почти по любому вопросу. И бесплатно и за деньги. Одна беда — рекомендации друг другу противоречат. И иногда сразу обе противоречивых подсказки не работают.

Кнопка “respawn” вообще, похоже, залипла. По крайней мере, не видел ни одного игрока, которому удалось её нажать. Хотя индусы считают, что ты при нажатии иногда превращаешься в текстуру. Идея, конечно, занятная, но мне как-то не верится.

И это всё ладно. Но почему сюжет не прописан? Что за мода на «открытый мир»? Если кто не в курсе, это такой приём в геймдизайне, когда ты сам придумываешь, чем персонажа занять. Свобода…

Вот только в нормальных играх тебе сложность подбирают для оптимизации пользовательского опыта. Это про что? Если игроку слишком сложно будет, он перенапряжется, расстроится и бросит играть. Если слишком легко, заскучает и тоже бросит. Поэтому нормальные разработчики так подбирают, чтобы задача не с первого раза получалась. Чтобы вы на грани своих способностей проскакивали на следующий уровень. Сами знаете: ладони вспотели, дыхание участилось и… победа. А потом в город продавать добытые артефакты. Но это в нормальных играх.

У нас «открытый мир», понимаешь. За разработчика всю работу надо делать самому. С одной стороны, следишь, чтобы не взять невыполнимый квест, потратив всё сюжетное время впустую. С другой избегаешь получения ачивки «смерть от скуки».

Короче, разработчик явно схалтурил, игра выглядит так, как будто бы она вообще случайно получилась. Но несмотря на все недостатки выше мне очень нравится. Одна графика чего стоит. И если научиться правильно подбирать сложность квестов, можно получить классный игровой опыт. Но тут как и влюблю игре, важно знать правила и уметь их использовать.

«Если ты не будешь контролировать свой разум, это будет делать кто-то другой» Джон Алстон

Вот вы и приобрели своего первого зверька. Пока он ещё совсем маленький, но при правильном уходе он станет вашим верным другом и серьёзным союзником. Будьте бережны, эти маленькие зверьки помирают не хуже хомячков. А вы слышали хоть одну историю про хомячков, которая не закончилась их трагической погибелью?

Основные принципы качественного питания питомца

• Регулярность питания. Если ваш зверёк не получает питания долгое время, для дальнейшего его выращивания вам, скорее всего, потребуются навыки некромантии.

• Потребление информации порциями, соответствующими размеру зверя. Вы не можете нахрапом разобраться в новой крупной теме, если до этого не наращивали метаболизм своего подопечного. Вероятнее всего, питомец насытится очень быстро. Он попросту устанет кушать, оставив недоеденную гору.

• Обязательное наличие в пище питательных волокон (содержательности и связности). Бессвязная информация требует систематизации и увеличивает время переваривания.

• Повышение калорийности (сложности информации) пищи с ростом. Если ваш зверёк ещё молод, то он довольно неприхотлив. Однако с возрастом он становится всё разборчивее. Эту особенность нужно учитывать при составлении его диеты.

• Помните, зверь не может кушать одно и то же до бесконечности, поэтому нужно искать для него пищу с достаточным количеством нового. Однако при этом новая информация должна содержать знакомые элементы. Это снизит риск отказа зверя от питания вследствие излишней новизны.

• Разнообразие рациона. Этот пункт подразумевает отказ от попытки спрятаться в позиции «узкого специалиста», наподобие Шерлока Холмса, который не желал хранить информацию о шарообразности земли. Подробнее о преимуществах разнообразного рациона по ссылке. Если вы все же решили кормить вашего зверька только одной травой, то убедитесь хотя бы, что обеспечиваете ему разнообразную траву. Если вы узкий специалист, то растите своего зверька хотя бы внутри своей специальности.

• Снижение доли нездорового питания (см. Раздел «основные ошибки»)

Основные ошибки в питании

• Кормление зверька фантиками и обёртками от еды. Слова — это только обёртки от убеждений. Они могут, как содержать смысл (собственно пищу), так и быть просто словами. Когда вы в школе говорили ответ, не понимая смысла, вы подпихивали зверьку обёртку от еды. Когда биолог говорит, что эволюция породила какую-то адаптацию, он не подразумевает целенаправленности эволюции, а видит за этим вполне конкретные количественно вычисляемые механизмы. Когда это повторяет студент… Ну он часто просто демонстрирует обёртку, ничего не подразумевая. Внешне фраза студента и биолога выглядят одинаково. А система образования зачастую только поощряет такую имитацию понимания. Кажется, не стоит пояснять, что обёртки не являются полезным питанием для вашего питомца.

• Обещания покормить зверя вместо собственно его кормления. Обычно выглядит как фразы: «Это интересный/хороший вопрос», «Надо будет обязательно разобраться», «Интересно было бы узнать». Когда же вы наконец-то решите накормить зверя всем обещанным (вероятнее всего это произойдёт никогда), кормить будет некого (см. пункт «Смерть зверя»).

• Попытка кормить питомца только эксклюзивной пищей. Это когда вам неинтересно то, что уже знают другие люди. И вы стараетесь найти какое-то особое, непохожее на всех знание о мире. Эта странная ситуация основана на желании быть не как все, выйти из ярмарки тщеславия, где люди меряются своими зверьками. Но нормальной ли ценой такого поведения будет смерть вашего питомца?

Болезни

• Ощущение, что вы уже всё знаете и для вашего зверька нет новой еды. Может сопровождаться фразами: «я слишком стар/мудр, чтобы учиться». Редко сопровождается ощущением, что все ваши знания, полученные ранее, были полезны и вели вас к текущему уровню понимания. Диагноз: скорее всего, зверь сдох (см. пункт «Смерть зверя»)

• Паразиты. В таком случае ваш питомец начнёт кушать всякую ерунду. "А Машка-то беременна, а знаешь от кого? А знаешь, что этот блоггер сказал про другого? А сколько автомобиль у Х?" И подобное. Действительно интересные вещи перестают быть вкусными. Обсасывание интриг станет нормальным питанием. Зверёк будет постоянно голоден до каких-то мелких секретиков и прочих интриг.

• Запор. Некоторые объяснения вызывают остановку вполне уместных вопросов. Опасайтесь универсального ответа, который затыкает ваше любопытство. Обычно выглядят примерно так: «это великая тайна», «непостижимый эффект», «нам не дано этого понять», «это эмерджентность!». Подобные изречения останавливают пищеварение вашего зверя, и если это будет происходить слишком часто, то см. пункт «Смерть зверя».

Смерть зверя

Хорошая новость — вы можете в любой момент завести нового. Плохая — с таким отношением, скорее всего, его ждёт та же участь.

Таблетка для аппетита

Попробуйте подготовиться по любой теме к выступлению перед аудиторией (состоящей хотя бы из одного человека, этого вполне достаточно). Аудитория должна обладать следующими критериями:

• Вы не должны знать его/их отношение к проблеме (чтобы вы не подстраивали своё выступление под желания аудитории)

• Аудитория должна понимать что-то о проблеме, желательно лучше вас

• Аудитория должна стремиться к точным картам, а не просто к приятному диалогу

Заключение

Следите за своим любопытством, и оно сможет стать вам верным другом. При правильном подходе вы сможете вырастить настоящую махину, сметающую всё на своём пути. И помните: любопытство - это желание узнать, а не интерес. В том же смысле в котором прагматизм - это желание достичь цели, а не идти к ней.

Право на поиск истины подразумевает и долг, не стоит скрывать ничего из того, что мы распознали как истину. Эйнштейн

Любой другой человек — это чёрный ящик, в который залетает информация, а вылетают из него некоторые выводы. Случается, что его выводы не соответствуют нашим. Давайте погрузимся в анатомию спора и посмотрим, что можно улучшить.

В ряде случаев взаимодействие в таких обстоятельствах вообще не имеет смысла. Иногда проблема не настолько важна, иногда человека вы видите в первый и последний раз, иногда у вас нет времени или внимания для дискуссии и ещё ряд иногда. Но если вы всё же закатали рукава для обсуждения разногласий, то давайте взглянем, как это происходит? Рассмотрим для начала, что может пойти не так.

Первый вариант (агрессивный): Вывод собеседника проявляет в нём врага. Он посмел словами идентифицировать себя с другой социальной группой. Здесь включаем всю мощь своего дебатного мышления, чтобы вступить в опасную и непредсказуемую схватку. Главное — скрывать позицию. Враг затаился и ждёт, когда мы озвучим причины своих убеждений. Как только мы откроемся, он нанесёт гнусный удар по ним. И пока мы ищем брешь для разрушения убогой крепости его выводов, он занят тем же самым. У наших ворот стен уже идёт разведка. Главное оружие - громкое и эмоциональное повторение своих выводов.

Второй вариант (высокомерный): Мы делаем заключение о том, что ящик сломан. Наш собеседник просто тупой, злой, предвзятый, рассеянный, ненаблюдательный (или всё сразу). Чем ещё можно объяснить возмутительный вывод, который выплюнул в нас его чёрный ящик? Очевидно, спорить с ним бесполезно. Убедившись в асимметрии наших уровней интеллекта (собеседник, вероятно, ответил взаимностью) мы делаем вывод о непродуктивности спора с этим куском камня, неспособным понять даже modus ponens. Если есть зрители, то можно взывать к ним, используя оппонента в качестве фона для демонстрации своих идей.

Третий вариант (миролюбивый): Мы решаем, что сохранение хороших отношений гораздо важнее выяснения, чей вывод правильный. Тем более что правильный, конечно, наш. Но пока мы этого не озвучиваем, а оппонент не делает заявлений о правильности своего вывода, как будто бы сохраняется мир и спокойствие. В ряде случаев, указанных выше (нехватка времени, внимания, важности проблемы или человека в вашей жизни), это социально адекватное решение.

Четвёртый вариант (псевдомудрый): О, это самое крутое. Когда в споре участвуют несколько участников. Какую бы позицию мы сами ни занимали, лучшая стратегия - сказать, что во всех мнениях есть доля правды. Часто после этого нам позволят стать арбитром и судьей, раздающим баллы за хорошие аргументы. Обе стороны будут заискивать перед нами, ведь в этой ситуации мы однозначно более привлекательны чем враг. Главное, чтобы никто не догадался, что нейтральная позиция — это тоже позиция, и у неё так же должны иметься обоснования. В том смысле, что если мы считаем, что две стороны с противоположными прогнозами о мире одинаково правы (вот прям ровно на 50%), то откуда взялась эта уверенность?

Наверняка вы можете привести ещё пару стандартных неудачных сценариев. Именно благодаря таким «дискуссиям» люди отказываются от спора. Не удивительно, истина в них не то что не рождается — не происходит даже её зачатие.

Но обратное глупости, не есть ум. Недостаточно просто не делать так, как указано выше или в статье про дебатное мышление. Переставая наступать на одни грабли, можно просто перейти на дорожку граблей другого цвета, как в передаче умники и умницы. Как же сойти с этих дорожек?

Ставка на красное.

По умолчанию стоит считать, что ваш собеседник нормальный. Люди бывают экстраординарно глупы, злы и иногда даже безумны. Но давайте вспомним про регрессию к среднему и купол нормального распределения. Большинство людей — обычные по любому из этих показателей. И стоит относиться к ним до обсуждения исходя из предпосылки, что они думают примерно так же, как мы. И если у нас были бы те же данные, и тот же метод работы с информацией, то мы бы пришли к тому же выводу, что и они. То есть лучше быть скептически настроеными по отношению к идее, что перед нами мутант с испорченным чёрным ящиком.

Но это же опасно! Часть людей всё же окажется мутантами, и мы ошибёмся! Да, и это лучшее, что можно сделать. Представьте себе очень большую колоду карт (пусть в ней будет 10 тысяч). В ней 70% красных карт, и 30% чёрных. Вам дают 10 попыток угадать цвет следующей карты и платят за каждую угаданную по 100 рублей. Каковы будут ваши ставки? Амос Тверски в эксперименте выяснил, что большинство людей распределяют ставки в соотношении 70/30, то есть стараются предполагать 7 раз красную и 3 раза чёрную. Математическое ожидание такой стратегии всего 580 рублей. Тогда как всегда выбирая красную карту, в вашем кармане окажется в среднем 700 рублей. Возможно, если вы не сильно знакомы с теорией вероятности, то вам покажется странным, что нет ни одной стратегии, которая давала бы лучший результат (в среднем). Об этом у меня скоро выйдет ролик. Но вернёмся к нашим мутантам. Если мы знаем, что их меньшинство, то нельзя сделать ничего лучше, чем считать любого потенциального собеседника нормальным. Во всяком случае, пока мы не получим веских доказательств обратного.

Открывайтесь для атаки.

Если наш собеседник не хочет нам навредить, то можно не скрывать мысли от него. Свободно рассказываем лучшие доказательства и показываем степень уверенности в них. Где я сомневаюсь? Отличным дополнением будет здесь застилменить позицию собеседника, и попробовать пройти идеалогический тест Тьюринга.

Что знает человек по ту сторогу стола, и не знаю я? Что если мы смотрим на две части одного и того же лабиринта. Он видит конец, я вижу начало и мы оба видим середину. В данный момент собеседник просит пойти налево, а я направо. Прав кто-то один (или никто, и идти надо назад), но чтобы выяснить это ни у одного из нас может не хватать информации. Тогда стоит вывалить обе карты на стол и прийти к оптимальному маршруту.

Такая открытость может сэкономить кучу времени, которое ушло бы на выяснение скрытых позиций и мотивов. Однако это не сработает, если вы будете имитировать открытость для нанесения атаки, как в мифе о Троянском коне. Вы серьёзно думаете, что никто не заметит в коне солдат? Ну если да, тогда можете надеяться, что ваш дружелюбоиммитатор сгодится. В противном случае просто выйдите из дебатного режима и начините наконец нормальное общение, которого ждёте от собеседника.

Следите за определениями.

Шерман Кент, сотрудник ЦРУ в 50-х годах, обнаружил, что аналитики из его команды используют в отчёте фразу «серьёзная вероятность» имея в виду разные числа. Диапазон составил от 20% до 80%! Такое происходит в спорах постоянно. Поэтому лучше определять важные термины как можно точнее. А в случае обнаружения таких различий в употреблении одного и того же слова можно просто использовать вместо термина сам прогноз (20%, 40%, 80%).

Если дерево падает в безлюдном лесу, слышен ли звук его падения? Кто-то скажет: «конечно, ведь падение создаёт акустическую волну». Ему сразу же возразят: «но ведь эту волну никто не услышит, за неимением воспринимающего субъекта». Такой тип спора называется спор об определении. И он не имеет вообще никакого смысла, ведь обе стороны ожидают одного и того же. Их прогнозы совпадают, и единственное в чём они не согласны, это как употреблять слова «слышен» и «звук». Но никаких «правильных» определений нет — это плавающие убеждения. Можно просто сделать вывод, с которым все и так согласны: падение создаст акустическую волну, но её никто не воспримет. А затем пойти заниматься чем-то более интересным.

Допускайте, что ошибаетесь.

Мы можем быть неправы. И если выяснится, что так и есть, то лучше знать это. Что может заставить меня поверить в ложность моей модели мира? В статье про доказательства я упоминал, что убеждённость всегда должна быть на чём-то основана. А значит, ложность этих оснований могла бы снизить мою уверенность, или даже опровергнуть её.

Дважды два равно четырём*. Но почему я так уверен в этом? Калькулятор выдаёт этот результат, куча народу в школе и по телевизору так говорили, десятки раз я клал два предмета к двум другим, и получал четыре штуки. Доказательств довольно много. Но если бы хоть одно из них оказалось ложным, мне стоило бы снизить уверенность в этом убеждении. А если бы где-то в гипотетическом мире они все оказались неверны, мне стоило бы иметь другое мнение.

И это крутая идея. Мы можем представить мир, в котором наше убеждение неверно. Чем он будет отличаться от нашего? Что в нём поменяется? В мире, где 2х2≠4 поменяется довольно много. Для плавающих убеждений вообще ничего не изменится. Для убеждений, которые чаще всего становятся предметами споров, мы увидим какое-то промежуточное количество измнений. Перемены в гипотетическом мире и есть наш прогноз. Мы не ожидаем увидеть их, если наши убеждения верны. Но если они всё же обнаружатся, то стоит снизить свою уверенность.

Недавно произошла такая ситуация. Я сел в такси и пристегнулся на заднем сидении. Водитель стал живо интересоваться зачем я пристёгиваюсь. Сам он не был пристёгнут. Я сказал, что это вроде как повышает шансы выжить в случае аварии и снижает травматизм. В ответ он стал рассказывать историю о знакомом, который выжил благодаря тому, что не был пристёгнут и вылетел через лобовое стекло с пассажирского сидения. Что ж, если отсутствие ремня повышает шансы выжить, то стоит отстегнуться. Но для начала я предложил проверить статистику и заранее сказал, что отстегнусь, если не пристёгнутые люди выживают чаще. Статистика в США его не порадовала, но там другие реалии, с чем я согласился. Однако отчёты ГИБДД тоже упрямо сохраняли на мне ремень. Тогда водитель сказал, что это вся эта статистика про трассы, а в городе ситуация иная. Оставляю вам интригу в плане статистики по авариям со смертельным исходом на расстоянии менее 40 км от дома.

Человек, который обоснованно меняет своё мнение, строго получает больше от спора. Если я круто разворачиваю убеждённость, то это следствие того, что я узнал много новой информации. А последствием является то, что я оптимизирую своё поведение и теперь ошибаюсь чуть меньше. Сплошные бонусы. Вот только признание ошибок почему-то ощущается чем-то плохим и иногда даже вызывает стыд. Но обучение — это почти синоним признания ошибок. А ученье — свет, именно потому, что продолжать заблуждаться всегда хуже, чем заканчивать с этим.

Истина где-то рядом.

Довольно продуктивной является идея, что реальность есть, и она едина. Полная её противоположность  —  идея о том, что всё, что у нас в голове и есть реальность. Возвращаясь к аналогии с лабиринтом, разная информация не подразумевает наличие разных лабиринтов. Если мы хотим выбраться — идти всё-таки нужно в каком-то конкретном направлении. Информация об оптимальном маршруте иногда недостижима, иногда слишком дорога. Строго говоря, она недостижима всегда, потому что у нас в голове лишь упрощения реальности. Но как и в ситуации с красно-чёрной колодой карт — лучше, что мы можем сделать это получить максимальное приближение из имеющейся информации.

Целью спора в этом контексте не является изменить мнение собеседника. И даже не изменить своё. Цель — выяснить, какое лучшее предположение можно сделать из имеющейся на двоих информации о лабиринте.

Поспорим?

* Избегая споров об определениях, я в курсе про системы счисления и переобозначения, но речь не про другие варианты, где я, конечно же, соглашусь с вами в прогнозах.

Мой канал в телеграмм

Мой канал на ютуб

«То, что вообще может быть сказано, должно быть сказано ясно» Людвиг Витгенштейн

Сын весь в соплях, бумага в тетради в клетку на 24 листа уже немного скукожилась от пролитых на неё слёз. Отец в бессилии, кажется, уже в десятый раз тихо повторяет одно и то же: ну и чему равен икс… Тихо он повторяет потому, что голос уже осип от крика, а завтра ещё на работу. А всё почему? Потому что он недооценил понятийные расстояния.

Человечество возникло в условиях, когда почти все знания были общими. Весь скромный запас знаний, накопленный поколениями,  мог уместиться на таком компактном носителе, как человеческий мозг. Даже с учётом того, что прошлые версии носителя и весили меньше и оптимизированы были хуже.

Это было золотое время в плане коммуникации. Тогда, чтобы объяснить что-то новое любому члену своего племени нужно было затратить очень мало усилий. Больше всего такая ситуация напоминает Лего. У меня и у моих соплеменников совершенно одинаковые наборы деталек. Если я придумал какую-то конструкцию, то я без труда могу любому показать, как сложить детали для получения результата.

В такой среде формировались наши мозги. Если ты говоришь что-то очевидное, то вряд ли кто-то станет с тобой спорить, ведь у него такой же набор деталей. Если он всё же не согласен, то он либо лжец, либо глупец. Ровно такие чувства мы по умолчанию испытываем, когда с нами кто-то несогласен. Это происходит именно потому, что мозг формировался в условиях, где иное было невозможно.

Но с тех пор кое-что изменилось. Язык, специализации, письменность, технологии, наука. Мы накопили объёмы информации, для которых кое-как успеваем придумывать единицы измерения. Мы распределили эти знания по миллионам серверов и миллиардам мозгов. Мы разработали очень сложные теории со своими отдельными языками.

Вот яркий пример: Математик Синъити Мотидзуки для доказательства ABC-гипотезы разработал специальный язык. Но нужного уровня специалистов, способных понять этот язык около 20 в мире. И им есть чем заняться, так что статус доказательства на сегодняшний день неопределённый.

То есть, конечно, есть люди с такими же наборами Лего, но они тратили на их сбор уйму времени. И теперь они строят свои конструкции.

А как насчёт теории относительности? Как-то раз астрофизика Артура Эддингтона спросили: «Сэр, правду ли говорят, что вы один из трёх человек в мире, которые понимают теорию относительности Эйнштейна?». Учёный промолчал, и журналист начал извиняться за некорректный вопрос, на что Эддингтон ответил: «Ничего-ничего, просто я задумался, пытаясь понять, кто же этот третий?». Конечно, теорию относительности сейчас понимает уже далеко не три человека. Но человечество изобрело немало областей, которые настолько узкие, что в них и сейчас втискивается всего пара человек. Среда поменялась очень быстро. Но эволюция не так расторопна, железо не успевает обновляться за софтом.

Объём объяснений для устранения непонимания между двумя людьми называется понятийным расстоянием. Это буквально количество деталек Лего, которые нужно передать, для того чтобы прийти к общему выводу. И иногда это расстояние просто чудовищно, как в случае со мной и Мотидзуки. Но даже когда это расстояние не такое большое, наш мозг систематически его недооценивает. Из-за этого отец считает, что объяснил ребёнку достаточно просто, а тот даже не начал понимать, о чём идёт речь. Он заставляет ребёнка собирать копию своей башни, недодав ему деталей.

Нам естественным образом кажется, что если сказать два факта, то собеседник мгновенно сложит из них такую же башенку как у нас. Мы забываем о тридцати этажах ниже, на которые мы потратили уйму времени. Разве это не само собой разумеется? Я ведь это знал всегда, вот в садик пошёл, и всё уже было очевидно.

Нормальное объяснение это и есть попытка сравнять наборы конструктора. У нас должны быть одинаковые детали, но даже при таком условии нужно время на воспроизведение копии.

P.s.

После публикации со мной связался подписчик, который сказал, что занимается буквально визуализацией понятийных расстояний. Просто зацените какую красоту Игорь пилит в качестве opensource проекта: ссыль. Как по мне, то нагляднее некуда, и довольно полезно для тех кто пытается быстро разобраться в теме. На всякий случай: проект не коммерческий, так что это не реклама.

Мой канал в телеграмм

Мой канал на ютуб