Veremeev

Если у вас есть тайная страсть сводить всю жизнь к цифрам, будьте осторожны – Закон Гутхарта с удовольствием выведет вас на чистую воду. Он гласит, что если вы превращаете некий показатель в главную цель, сам показатель внезапно перестаёт отражать реальное положение дел. То есть пока вы радостно наполняете отчёт симпатичными цифрами, истинная суть может скромненько стоять в уголочке и изображать сушеную воблу. Причём это действительно так во всех сферах – от больниц и школ до производства и социальных сетей.

Задумайтесь, почему мы так падки на эти самые цифры. С точки зрения нейронауки наш мозг обожает упрощать сложные системы. Так же гораздо проще – найти одну-единственную метрику и упростить всю реальность до «сделай больше единиц чего-то там – и будет тебе счастье». Плюс работает когнитивное искажение, когда мы стремимся подтверждать собственные успехи, игнорируя «тёмную сторону» метрики. Цифры же растут, значит, всё «Ок». А что там реальная польза или качество – это пустяки для зануд.

Самые весёлые примеры начинаются, когда дело доходит до реальных историй. В школах, стремясь повысить средний балл, учителя задают лёгкие задания, а дети учат только то, что требуется на тесте, напрочь забывая про живое любопытство и более глубокие знания. Или в больницах, чтобы уложиться в норматив по времени приёма, сокращают консультации до абсурда, рискуя качеством диагностики и лечения. А в отделе продаж менеджеры заключают контракты, лишь бы в отчётах стояла красивая цифра «100 заключённых сделок». Формально цель выполнена, а фактически у компании большие проблемы.

Ученые ссылаются и перессылаются на статьи друг друга, чтобы рос индекс Хирша; блоггеры накручивают лайки и просмотры, чтобы привлечь рекламодателей; программисты пишут избыточный, запутанный и длинный код, чтобы «набить» больше строк; финансисты играют с моделью, чтоб выросли NPV и IRR. И таких примеров огромная гора.

Секрет кроется в природе нашего мозга. Он любит простые пути и чёткие метки «успешного успеха». Порой мы скатываемся в псевдонаучную веру в то, что один показатель может описать целую вселенную, и напрочь игнорируем побочные эффекты. Этот процесс подогревает всё то же подтверждающее искажение: мы замечаем лишь то, что подтверждает наш замысел «Ура, показатели растут!», а тревожные звонки о том, что качество-то упало, старательно отфильтровываем.

Чтобы Гутхарт не ударил вас по голове рулеткой, нужно избегать слепой зависимости от одной метрики. Нельзя оценивать больницы лишь по скорости приёма, школы – по среднему баллу, а сотрудников – только по числу выполненных задач. Иначе все героически начнут «улучшать» именно эти цифры, а не заботиться о качестве и реальной пользе. Что в таком случае делать? Во-первых, держать фокус на главной цели. Во-вторых, попытаться применять дополнительные качественные показатели и не бояться вопросов вроде «А не проводим ли мы здесь статистический массаж?»

И в заключение – когда очередной рукойводитель или ведомство с гордой улыбкой тычет в свои блестящие отчёты, помните Закон Гутхарта и задумайтесь, не провернули ли тут ловкий трюк с цифрами ради цифр. Ведь любой показатель, ставшый самоцелью, моментально превращается в шулера, а реальная жизнь при этом остаётся далеко за кадром.

Вместо предисловия

Сегодня я хотел бы уделить внимание одному очень интересному феномену, который, по сути, представляет собой религиозное движение туземцев Меланезии (группа островов в Тихом океане). Туземцы верят, что современные товары, будь то еда, инструменты, техника или одежда, были созданы духами предков для меланезийского народа, но белые люди обманом получили доступ к этим чудесам. Чтобы восстановить справедливость меланезийцы проводят магические ритуалы, повторяющие действия «белых захватчиков», в том числе ходят строем с палками на перевес, строят модели самолетов из соломы, надевают на голову половинки ореха кокоса, имитируя наушники и многое другое. Туземцы верят, что эти действия призовут чудесные товары-карго (от англ. Cargo – груз, а Cargo cult – поклонение грузу) и увеличат процветание народа.

Несмотря на всю абсурдность этого движения, совершенно не стоит смотреть на меланезийцев свысока. За свою карьеру я встречал огромное число примеров этого феномена и в нашей жизни. Эта тема меня веселит порой до горьких слез, поэтому я решил создать серию статей на эту тему. Первая будет посвящена общей информации и размышлениям, а в последующих я составлю топ ситуаций из нашей жизни, которые ничем от соломенных самолетов, по сути, не отличаются. Приятного прочтения.

Волшебные ящики с небес: историческая справка

Хотя первые карго-культы были зафиксированы еще в XIX веке, классическое движение появилось после Второй мировой войны. Когда американские военные начали использовать эти удалённые территории в качестве стратегических баз, местные жители впервые столкнулись с миром технологий и материальных благ, о которых ранее даже не догадывались.

Для местных жителей это было необъяснимым волшебством: люди в военной форме ставили вышки, размахивали сигнальными флажками и передавали команды через странные коробки с голосами – и вскоре прилетали самолёты, полные «карго». Когда война закончилась и американские военные базы были заброшены, поток чудесных товаров прекратился. Однако местные жители, вдохновленные увиденным, начали воссоздавать действия военных. Они строили взлётные полосы из песка, делали наушники из кокоса и разжигали сигнальные костры, надеясь, что самолёты снова прилетят.

Джон Фрум и другие небесные пророки

Сегодня эти культы сохранились и даже имеют своих пророков и миссий. Джон Фрум – самый известный пророк карго-культа. Согласно легенде, он был человеком (или духом?), который обещал, что однажды вернётся с большим количеством даров. Кто такой этот Джон на самом деле большая загадка. Возможно, он был американским военным или просто вымышленным образом, созданным надеждами и фантазиями туземцев. До сих пор на острове Танна в Вануату каждое 15 февраля отмечают «День Джона Фрума», с парадами и танцами в его честь.

Кроме Джона, у других островов были свои герои, например принц Филипп (не юный Киркоров, а супруг королевы Великобритании Елизаветы II). Некоторые считали, что американцы и японцы просто общаются с духами, а потому старались копировать их действия, размахивая деревянными «вёслами», переодеваясь в военную форму, слушая самодельные «радиоприемники», пытаясь услышать голоса. Все это стало ярким примером того, как люди пытаются объяснить необъяснимое доступными им способами.

Когнитивные фокусы или Почему мозг любит карго

Если задуматься, то карго-культ – это не такая уж уникальная штука. Люди во всем мире склонны к когнитивным искажениям, которые превращают сложные явления в простые и понятные образы. Вот несколько примеров:

1. Иллюзия контроля. Островитяне видели, что действия пришельцев связаны с прибытием карго. Построив свои ритуальные полосы и костры, они искренне верили, что могут управлять потоком «небесных даров».

2. Причинно-следственная ошибка. Самолёты прилетали, когда на острове стояли антенны и костры? Значит, антенны и костры их привлекают! Мозг любит находить причинно-следственные связи, даже когда их нет.

3. Эффект подтверждения. Если хоть раз что-то «сработало» – например, самолёт пролетел над островом во время ритуала – это становится доказательством, что ритуал действительно работает. Остальное игнорируется.

С точки зрения нейронауки, это яркий пример того, как человеческий мозг стремится упрощать реальность и искать закономерности. Наша эволюция научила нас быть внимательными к «сигналам окружающего мира – пусть даже иногда мы видим закономерности там, где их нет.

Заметки по самокритике

Если подумать, карго-культ присутствует и в нашей повседневной жизни. Покупаем дорогую технику, считая, что она сделает нас продуктивнее. Идём в спортзал 1 января, думая, что абонемент сам по себе подарит идеальное тело. Или зажигаем свечи и произносим тосты, искренне веря, что это принесёт удачу. Наш мозг обожает упрощать сложные процессы и приписывать магические свойства привычным действиям.

Карго-культ – это не только забавная глава из истории, но и зеркало, в котором мы видим наши собственные когнитивные привычки. Мы все стремимся объяснить сложный мир простыми ритуалами и действиями, которые дают нам ощущение контроля. Но настоящая магия происходит тогда, когда мы соединяем любопытство с критическим мышлением. Ну а если вдруг решите построить взлётную полосу во дворе, кто знает – может, Джон Фрум или принц Филипп и к вам заглянут.

Ваш А.В.

P.S. В следующих частях серии ждите топ-чарты примеров карго-культа в самых неожиданных областях современной жизни.

Сегодня продолжу эту тему топ-чартом ситуаций, где карго-культ проявляет себя в науке и разработках. Казалось бы ученые, стартаперы и разработчики обладают прокаченным критическим мышлением, но мой опыт в данной области показывает распространенность этого явления, как в государственных учреждениях, так и в коммерческих организациях.

Мой список содержит только 10 ситуаций, хотя их можно привести и больше. Места в топе тоже проставил очень условно.

10 место. Публикация ради публикации

Многие исследователи публикуют статьи только ради увеличения количества публикаций, не заботясь о научной ценности работы. Это создаёт видимость активности, но редко приводит к реальным открытиям.

9 место. Использование модных слов

Включение терминов вроде «искусственный интеллект», «блокчейн» или «мультиомиксные технологии» в проекты, которые на самом деле не используют эти технологии, чтобы привлечь финансирование и внимание.

8 место. Имитация сложных экспериментов

Исследователи иногда воссоздают методики крупных лабораторий без глубокого понимания их сути, надеясь, что это принесёт аналогичный успех. Апогеем этого «подхода» является банальное копирование и переписывание чужих результатов и продвинутых методик. Эту прорывную инновацию я называю «эксэль рисеч (от англ. Excel-research)».

7 место. «Научные» обоснования «инновационных» продуктов

Компании используют псевдонаучные данные, чтобы повысить продажи продуктов, например косметики или БАДов, создавая иллюзию научного подхода. Крем с молекулами шелка, микромицеллы воды и прочие фантазии. ТОП подход – презентация банальных вещей как инновации, например реклама БАД как прорывного лекарства.

6 место. Модные конференции

Участие в больших конференциях для демонстрации статуса, а не для обмена знаниями. На деле это часто превращается в ярмарку тщеславия.

5 место. Фальшивые метрики успеха

Использование таких показателей, как индекс Хирша или количество цитирований, без учёта реальной значимости работы. Такие метрики часто подпадают под закон Гутхарта.

4 место. Симуляция лабораторий

В некоторых политично скажем ситуациях создается видимость научной инфраструктуры для получения грантов, хотя исследования фактически не проводятся. Создаются фиктивные лаборатории и отделы, где все сотрудники работают на 0,1 ставку и нет ни одного прибора. Ожидания результатов от таких подразделений бьют всякие рекорды.

3 место. Копирование дизайна без понимания механики

Разработчики берут популярные интерфейсы или технологии, думая, что это автоматически принесёт успех, игнорируя функциональность и пользовательский опыт. Или еще хуже – создается только дизайн без начинки. Громкий пример – Элизабет Холмс и ее компания ТЕРАНОС. Может быть напишу об этом как нибудь.

2 место. Гонка за финансированием

Учёные иногда подстраивают свои исследования под запросы грантодателей, теряя фокус на реальных научных проблемах. Есть целый ряд профессиональных грантополучателей для которых грант – главный источник дохода, без перспектив коммерциализации.

1 место. Иллюзия прорыва

Презентация ранних стадий проектов как революционных открытий, чтобы произвести впечатление на общественность и инвесторов.

Взлётная полоса здравого смысла

Карго-культ – это не только забавная глава из истории, но и зеркало, в котором мы видим наши собственные когнитивные привычки. С точки зрения нейронаук, такие ритуалы помогают людям справляться с неопределённостью и страхом перед сложностью. Иногда же «симуляция» ведётся вполне осознанно: учёные или разработчики могут продолжать заведомо бесперспективные проекты ради выполнения формальных требований, поддержания финансирования или сохранения репутации.

Но лучше всё же не ждать карго, а искать свой путь к поставленным целям.

Ваш А.В.

Артур Чарльз Кларк, как о нем пишет Википедия, был английским писателем, футурологом, популяризатором науки, Командором ордена Британской империи и рыцарем-бакалавром. В его честь даже названы горы на Хароне (спутник Плутона). Это все очень впечатляет, но авторы забыли написать, что он был еще и настоящим визионером, который предсказал спутниковую связь, интернет и, возможно, даже искусственный интеллект с неоднозначными результатами своей работы (вспомним хотя бы шедевр «2001: Космическая одиссея» над которым он работал совместно со Стенли Кубриком).

В 1962 году Кларк сформулировал три принципа, известные как «три закона Кларка»:

1. Когда уважаемый, но пожилой учёный утверждает, что что-то возможно, то он почти наверняка прав. Когда он утверждает, что что-то невозможно, – он, весьма вероятно, ошибается.

2. Единственный способ обнаружения пределов возможного состоит в том, чтобы отважиться шагнуть немного дальше – в невозможное.

3. Любая достаточно развитая технология неотличима от магии.

Если бы автор создавал свои законы в наши дни, он добавил бы ещё один: «Любой достаточно развитый мем или статус в VK неотличим от мудрости». Но если серьезно, то в этой короткой статье я попытаюсь разобраться в основах этих законов и порассуждать откуда ноги растут.

«Если кто-то сказал, что что-то невозможно, значит…» – Закон первый

Итак, первый закон гласит: «Когда уважаемый, но пожилой учёный утверждает, что что-то возможно, он, вероятно, прав. Когда он утверждает, что что-то невозможно, он почти наверняка ошибается». Этот закон напоминает нам, что даже самые выдающиеся умы могут попасть в ловушку собственных убеждений.

Вспомните, как когда-то говорили, что человек никогда не полетит в космос, что компьютеры не смогут поместиться в карман или что искусственный интеллект – это исключительно сюжет для научной фантастики. И вот, здравствуйте пожалуйста – космос бороздят спутники, смартфоны мощнее суперкомпьютеров прошлого века, а ИИ уже пишет научные статьи и компьютерный код (музыку пишет тоже, кстати).

Этот закон подсказывает, что границы возможного постоянно расширяются, и никто, даже самый авторитетный эксперт, не может с уверенностью сказать, где именно они пройдут завтра. Если вам говорят, что нечто невозможно, возможно, это просто вопрос времени.

Первый закон в свое время дополнил Айзек Азимов, где описал несогласие непрофессионалов с учёным: «Тем не менее, когда непрофессионалы сплачиваются вокруг идеи, отрицаемой уважаемым, но пожилым учёным, и поддерживают эту идею с пылом и энтузиазмом – то этот уважаемый, но пожилой учёный, в конечном счёте, вероятно, прав» (примет адептам маленького плота на плоской Земле).

«Выходим за рамки» – Закон второй

Второй закон звучит так: «Единственный способ обнаружения пределов возможного состоит в том, чтобы отважиться шагнуть немного дальше – в невозможное».

Это закон для экспериментаторов, мечтателей и тех, кто не боится рискнуть. Помните братьев Райт, которым никто не верил, когда они заявили, что человек сможет летать? Или Илона Маска, который показал всему миру, что электромобили могут стать мейнстримом, а ступени ракеты могут вернуться обратно на Землю? Всё, что когда-то считалось фантастикой, стало реальностью только благодаря людям, которые не боялись идти наперекор традициям и проверять границы возможного. Здоровый волюнтаризм!

Этот закон также напоминает нам, что прогресс требует ошибок. Если вы не выходите за пределы известного, то никогда не сможете узнать, что находится за ними.

«Это чудо чудесное» – Закон третий

Третий закон, пожалуй, самый известный – «Любая достаточно развитая технология неотличима от магии». Если задуматься, мы часто сталкиваемся с этим законом в жизни. Бабушки, уверенные, что смартфоны могут прочесть их мысли, а интернет облучает волнами и он «нам не нужОн» (про вышки 5G молчу). Дети, которые думают, что папа колдует, исправляя Wi-Fi ударами по роутеру. Или, скажем, микроволновка. Ты кладёшь туда холодный суп, жмёшь кнопку – и через две минуты он горячий. Никаких костров, никакого пара. Это магия? Ну, если не углубляться в физику СВЧ-волн, то почти.

А теперь представьте, как выглядел бы современный гаджет в Средневековье. «Я вижу в нём движущиеся картины, слышу голоса, и, кажется, он меня понимает!» – сказал бы поражённый инквизитор, прежде чем объявить владельца колдуном и отправить на костёр. Этот закон о том, как далеко технологии уходят вперёд относительно нашего понимания. Мы не объясняем их, мы просто пользуемся.

«Прогресс? Не, не слышал!»: Ловушки нашего мозга

Наш мозг работает прежде всего на статус-кво и сохранение энергии, ему трудно принимать революционные идеи. Мы опираемся на знакомые модели, поэтому всё новое сначала воспринимается с подозрением. Например, когнитивный диссонанс – когда человек сталкивается с информацией, противоречащей его убеждениям, ему проще отвергнуть её, чем пересмотреть свою точку зрения. Именно поэтому многие великие открытия сначала считались безумием.

Другой важный механизм – предвзятость подтверждения. Мы склонны замечать факты, подтверждающие наши взгляды, и игнорировать те, что их опровергают. Например, если кто-то убеждён, что «новые технологии – это зло», он легко найдёт истории о сбоях ИИ, но не обратит внимания на достижения.

Также действует эффект Даннинга-Крюгера. Люди с низкой квалификацией переоценивают свои знания, а эксперты, наоборот, сомневаются. Это объясняет, почему кто-то уверен, что может разобраться в физике квантовых компьютеров после просмотра одного ролика на YouTube, а учёный, работающий над этой технологией, постоянно подчёркивает сложность темы. Эту тему я попытаюсь раскрыть в следующих постах.

Еще пара примеров для закрепления. Возьмём эффект якоря – если человеку сначала сказать, что путешествие к Марсу невозможно, а потом показать технологию, которая к этому ведёт, он всё равно будет сомневаться. Или ошибка выжившего – когда мы видим успешные технологические компании, нам кажется, что прорывы происходят постоянно, но мы не учитываем миллионы идей, которые так и не взлетели. Ну и, конечно, иллюзия знания – мы уверены, что понимаем, как работает Интернет или летает самолет, пока не пытаемся объяснить это бабушке. В какой-то момент осознаёшь, что повторяешь заученные фразы, а сам не обладаешь базой. Мое любимое в этой теме – если думаешь, что ты эксперт в теме – объясни это ребенку или лабрадору (воображаемому). Не получается, значит недостаточно глубокого понимания вопроса, придется разбираться.

Когнитивные искажения – это причина, почему законы Кларка кажутся нам такими правдивыми. Когда кто-то говорит, что новая технология невозможна, это часто не объективный анализ, а просто работа мозга, который не хочет принимать неизвестное.

В качестве заключения

Законы Кларка не про магию, а про границы восприятия. То, что кажется сверхъестественным сегодня, завтра станет повседневностью. А что-то из того, что мы считаем невозможным сейчас, окажется скучным рутинным процессом через двадцать лет. Главное – не бояться технологий, не застревать в когнитивных ловушках.

А какие яркие примеры можете привести вы?

Ваш А.В.