Как ожидать неожиданное (4)⁠⁠

Заканчиваем знакомиться с книгой Кита Йейтса.

Экспонента – это когда ответ усиливает стимул. Но бывает и наоборот. То есть обратная связь может быть отрицательной. В пиаре этот феномен получил название эффекта Барбары Стрейзанд. Судебный иск артистки с целью изъять фото своего роскошного дома из публичного доступа привело к обратному эффекту: практически никого не интересовавший дом Стрейзанд начали смотреть все, кому не лень. Число просмотров выросло с шести до полумиллиона.

Более широко в психологии это называется эффектом бумеранга: так берут на «слабо» и идут против запретов. Нежелательный ответ может вызвать неправильно выбранный стимул. Стремление избавиться от кобр в Дели привело в своё время британскую колониальную администрацию к решению платить за каждую сданную убитую кобру. Выход нашёлся быстро: индусы стали разводить кобр на убой. Англичане отменили награду, и куда выпустили эти все террариумы? Правильно, в окрестности Дели. Прошли века, и бывшие колонизаторы встали на те же грабли: уже в наши дни они стали платить за уничтоженные плантации опийного мака в Афганистане. Афганцы кассировали и со снятого урожая, и с уничтожения поля после этого. Ну а потом высаживали плантации на новом месте. Оплата американскими властями каждого построенного километра железных дорог привела к тому, что компании, ведущие строительство навстречу друг другу, намеренно «промахивались», идя параллельным курсом. Примерам подобных манипуляций несть числа: здесь колумбийские военные отчитываются за борьбу с партизанами трупами убитых гражданских, там учителя подделывают оценки своих учеников, а ещё где-то больница не хочет лечить сложных пациентов, не желая испортить себе статистику. Закон Гудхарта в действии:

Когда мера становится целью, она перестает быть хорошей мерой

К нежелательным последствиям может привести тренировка нейронных сетей. Подобные системы, натренированные на определённых наборах данных, представляют собой чёрные ящики: мы не знаем внутреннюю логику, на которой строятся решения системы. Это, конечно, риск: кто знает, как поведёт себя система в новых обстоятельствах? У неё есть заданная нами цель, а вот выбор средств часто явно не указывается. Автор рассказывает историю, как нейронку по рентгенодиагностике тренировали на данных из двух больниц, статистика в одной из которых заметно превышала другую. Система научилась различать происхождение снимков и базировать свои выводы на этом. Ведь ей скармливали весь снимок, включая вспомогательную информацию на полях. А то, что надо смотреть лишь на лёгкие, а не буквы L и R, не сказали.

При выработке модели важно также не зайти слишком далеко. Можно интерполировать последовательность 3, 5, 7, 9 простой линейной функцией и заключить, что следующее значение – 11. Но эта функция – не единственная с такими значениями. Через эти точки можно, например, провести кривую четвёртого порядка, следующее значение которой будет 23. Что делать? Не плодить сущности понапрасну и пользоваться бритвой Оккама. То есть использовать минимальное число параметров для объяснения ситуации. В том числе не стремиться подогнать модель под данные с идеальной точностью.

Упомянув про самосбывающееся, трудно пройти мимо пророчества самоотменяющегося. С подобной дилеммой столкнулся ещё пророк Иона в седой древности: Господь повелел ему передать пророчество о разрушении Ниневии, если жители этого города не раскаются. Однако вот ведь какое дело: если они поверят ему и раскаются, то город не разрушится, и тогда само пророчество не сбудется. Ну и кто он будет после этого в их глазах? Вот и попытался спетлять и отправился в плаванье. Но Господа не обманешь. Корабль попал в сильнейший шторм, и когда корабельщики бросили жребий, кого выкинуть за борт, тот пал... да, на Иону. Как только того выбросили, шторм прекратился. Но Иона не погиб в пучине: его проглотил кит, в чреве которого три дня и три ночи он молился. Господь дал ему второй шанс, кит изверг Иону на берег, тот пошёл в Ниневию, стал пророчить о гибели города через сорок дней. Ниневийцы впечатлились и покаялись, их гибель не случилась, а пророчество Ионы – не исполнилось. Автор находит Иону в современности в лице эпидемиолога Нила Фергюсона, предсказавшего смерть полумиллиона британцев, если не бороться с распространением коронавируса. До такого не дошло. Умерло порядка двухсот тысяч. Помог локдаун, вакцинация и другие меры, за которые и выступал Фергюсон. Автор, правда, не сообщает ещё одну цифру из его предсказаний: что при соблюдении карантина число жертв может упасть ниже 20 тысяч.

К неожиданному исходу соперничества может привести недооценка противника. Голиаф может почивать на лаврах и расслабиться, в то время, как Давид будет гореть желанием опровергнуть ожидания и самоутвердиться своей победой над фаворитом. Подобный феномен автор называет эффектом аутсайдера, хотя Википедия имеет в виду нечто другое. Так или иначе, такое развитие событий, наряду с самоотменяющимся пророчеством, представляет собой примеры отрицательной обратной связи.

Если честно, я так не считаю. Это, скорее, примеры того, когда исход не такой, как планируется. Сигнал же обратной связи вычитается из задания на управление для вычисления рассогласования, чтобы узнать, далеко ли мы от цели. Мы выстреливаем в мишень, смотрим, куда попала пуля и делаем поправку. Стоим под душем, крутим ручку и чувствуем изменение температуры. Температуру (а также другие параметры тела) регулирует и наш мозг, используя обратную связь и управляющие воздействия. Разумеется, исход процесса регулирования может оказаться не таким, как хотелось бы. Длинная труба в душе может сделать задачу сложной, мы крутим кран в одну сторону, но пока вода достигнет нашего тела, проходит слишком много времени, и станет слишком горячо. Крутим в другую – опять промахиваемся, слишком холодно. Система входит в колебания. И будет неплохо, если эти колебания не слишком широки. А то при определённых обстоятельствах система может пойти вразнос.

Совет автора читателю очевиден до невозможности: пытаться предвидеть эффект бумеранга. Думать о непредвиденных последствиях. Брать на «слабо». Не всегда идти путём прямых запретов, ведь запретный плод сладок. Практическая ценность таких советов, на мой взгляд, не слишком высока.

Каковы бы ни были наши потенциальные предсказательные способности, иногда приходится признать: они не бесконечны. Приведу пример. Допустим, что совершая действие A, мы уменьшаем какой-то параметр B, который неизбежно должен уменьшить параметр С, что нам и нужно. Но на самом деле наше действие может привести и к росту параметра D, который тоже влияет на C. Единственным способом убедиться в нужном результирующем воздействии этих двух путей влияния будет использование количественной модели. Вербальная качественная модель в этом случае не сработает.

Говоря о непредсказуемости, автор упоминает заблуждение нормальности: мы склонны думать, что в будущем всё будет так же, как сейчас. Мы откладываем написание завещаний, не сразу реагируем на предупреждения о надвигающемся бедствии. Некоторые даже не верят предупреждениям. Чем это чревато, мы можем убедиться на примере судьбы жителей Помпейи, которые даже после начала извержения Везувия далеко не все поспешили покинуть город. Наши современники не намного разумнее их, что показала реакция жителей Нью-Йорка и окрестностей на штормовое предупреждение в октябре 2012 года. Тогда лишь менее половины жителей покинуло зону эвакуации. Результат: смерть 159 человек в результате урагана Сэнди.

Кстати, о погоде. Её мы хоть и умеем предсказывать, но тоже неидеально. Когда-то давно мы полагались на эмпирические приметы вроде красного неба на закате, предвещавшего ясную погоду (в отличие от красного восхода). Эта примета нашла своё отражение даже в Библии.

На закате, увидев, что небо красное, вы говорите: «Будет хорошая погода», а на рассвете, если небо заволокло багровыми тучами, вы говорите: «Будет буря».

Нельзя не отказать Иисусу в правоте: действительно, в умеренных широтах Северного полушария преобладают западные ветры, и область высокого давления с хорошей погодой (которую мы видим как красное небо) появившись на закате, с большой вероятностью пройдёт через нас. Если же мы увидим красное небо на востоке, то, похоже, хорошая погода от нас уже уходит. Красный цвет небу придаёт преломление солнечных лучей в частичках пыли, застревающих в атмосфере при антициклоне.

Но не все приметы выдержали испытание временем. Коровы ложатся на землю по разным причинам, и совсем необязательно перед дождём. Натуралисты в Германии подметили в восемнадцатом веке, что древесные лягушки залезают вверх по деревьям в хорошую погоду. Появилась мода заводить у себя дома лягушку и держать её в кувшине, из которого наверх вела вверх маленькая лестница.

Погодная лягушка

На самом деле, эти животные не предсказывали, а следовали хорошей погоде, при которой мошкара поднимается выше от земли. Разумеется, в домашних условиях своим поведением они не сообщали хозяину ничего путного. А синоптиков на телеэкране немцы иронически по сей день называют «погодными лягушками».

Поводов для иронии и издевательств над синоптиками сегодня тоже хватает, хотя стоит заметить, что мы лучше помним их неудачи, нежели их успехи. Ещё одним поводом для насмешек может являться неясность некоторых понятий. Вы знаете, что такое вероятность осадков? Это не просто вероятность дождя в определённом районе. Её нужно ещё умножить на процент площади с дождём в данном регионе. То есть если в Москве завтра точно будет дождь, но лишь на 75% площади, то вероятность дождя и будет 75%. Стоит знать, что некоторые коммерческие бюро погоды сознательно округляют вероятности осадков в большую сторону: лучше перебдеть и не дать клиенту промокнуть. Далее, они неохотно снимают дождевой прогноз в случае изменения обстоятельств в лучшую сторону: частые изменения прогноза подрывают доверие публики. Вообще, синоптикам и прочим прогнозистам имеет смысл представлять грядущее развитие событий в виде диапазона возможных сценариев с соответствующими вероятностями вместо какого-то одного наиболее вероятного сценария. Чем меньше будет недосказанностей – тем лучше.

Существование закона причины и следствия побудила Лапласа предположить создание супер-интеллекта – демона Лапласа – который бы на основе имеющейся в его распоряжении информации о Вселенной смог бы предсказывать будущее. Если это возможно, то свобода воли – всего лишь фикция. На самом деле, мало того, что у нас не хватит вычислительных мощностей, но и присутствуют фундаментальные вещи, ограничивающие наше точное знание координат и импульса частицы в данный момент времени. А именно принцип неопределённости Гейзенберга.

Так что синоптики, несмотря на определённый прогресс, никогда не смогут порадовать нас прогнозом стопроцентной вероятности. Не только по вышеизложенной причине, но и в силу чувствительности их моделей к изменению начальных условий. Погода – это не как у Жванецкого, у которого из консерватории неизбежно попадаешь в Сибирь. Наоборот. Здесь мы имеем дело со сложной системой. Мы можем очень точно рассчитать состояние подобной системы в будущем. Но стоит измениться начальным условиям совсем чуть-чуть – и прогноз окажется совсем другим.

В шестидесятых годах прошлого века американский математик и метеоролог Эдвард Лоренц создал простую модель атмосферы, которую обсчитывал на своём компьютере. Распечатки результатов выдавались с точностью до третьего знака после запятой, в то время, как внутреннее представление чисел в компьютере имело шесть знаков. Однажды Лоренц захотел повторить свои вычисления, но поленился делать всё с самого начала, а использовал распечатки промежуточных результатов. Он с удивлением обнаружил, что конечный прогноз у него получился совсем другим. Это расхождение было вызвано разницей в исходных значениях, не предвышающей одной тысячной! Это был не баг, нет. Это была фича хаотических систем. Он поделился своим открытием в статье с названием «Вызывает ли взмах крыльев бабочки в Бразилии торнадо в Техасе?» Так в науку вошёл эффект бабочки.

Лоренц удачно назвал феномен. Достаточно взглянуть на траектории его упрощённых моделей, которыми он показывал стремление системы прийти к одному из аттракторов в зависимости от начальных условий.

Бабочка Лоренца

Хаотической системой является движение планет вокруг Солнца. В конце девятнадцатого века Ковалевская вместе с Миттаг-Лефлером поставили гравитационную задачу N тел, за решение которой давалась премия в 2500 шведских крон. Ставился вопрос о стабильности орбит в Солнечной системе. Через три года проблему удалось блестяще решить Анри Пуанкаре на примере трёх тел. Премию он получил, но очень скоро нашёл у себя ошибку и впоследствии доказал, что систему дифференциальных уравнений для движения трёх тел невозможно свести к интегрируемой. Что уж говорить о большем количестве Мы не можем точно рассчитать движение планет Солнечной системы в течение произвольного промежутка времени. Точка.

Итак, даже теоретически мы не можем смотреть достаточно далеко в будущее. Поэтому следует сторониться тех, кто говорят, что совершенно точно знают, что случится. Не знают. Не могут знать.

Кто не верил в дурные пророчества,
В снег не лег ни на миг отдохнуть,
Тем наградою за одиночество
Должен встретиться кто-нибудь.

В эпилоге автор говорит нам, что если есть хоть бы один урок, который можно извлечь для себя из его книги, то это необходимость делать выводы из своих несбывшихся планов и учиться на своих ошибках. Негусто.

Как по мне – получилось эклектично. Какой-то салат из очевидных фактов, вырезок из прессы и пространных поучений. Желание автора в книге на математическую тему обойтись без формул раздуло её аж до четырёх сотен страниц. Хорошо тем, у кого есть время на их усвоение, остальным придётся, чертыхаясь, перепрыгивать абзацы и пролистывать совершенно тривиальные вещи.

Что-то новое можно для себя почерпнуть, но, скорее, фрагментарно. И бессистемно. Но излагает наш автор весьма понятно и увлекательно. Что есть, то есть. Уважаю.