hormesis

Коротко: я написал два поста. Получил −20 и −7. Один пост попал в «Горячее», собрал 16 тысяч показов и всё равно ушёл в минус. На второй сверху повесили тег «Контент нейросетей».

Тег поставили без доказательств. Никто не показал, чем текст сгенерирован, потому что показать нечего. Основание — сходство. Об этом ниже, а сначала про то, почему так вышло.

Аш, 1956: люди видят, но соглашаются

Соломон Аш показывал три линии разной длины и спрашивал, какая совпадает с образцом. Разница видна с вытянутой руки. Задача для ребенка.

Перед испытуемым сидели семеро подставных и хором называли неверную линию. Часть людей соглашалась. Не от того, что не видела разницы. От того, что не хотела оставаться единственной, кто спорит с группой.

Один объяснял потом: «Я знал, что они ошибаются, но не мог выступить против всех».

Каскад: последний смотрит на предыдущих

В 1992 году три экономиста описали механизм, который работает без всякого давления группы. Человек принимает решение по действиям тех, кто был до него. Свои данные при этом лежат в стороне, даже если они лучше.

Каждый следующий рассуждает «раз все так делают, значит они что-то знают» — и присоединяется. Это и есть информационный каскад, и он собирается сам, без злого умысла.

Вы так выбираете ресторан на пустой улице. Идете туда, где сидят люди, хотя меню не видели ни в одном, ни в другом. Может, еда там отвратительная: просто эти зашли первыми, потому что раньше открылись.

На Пикабу это работает как часы

В очереди вы видите лица и слышите аргументы. В ленте вы видите цифру до текста.

Минус двадцать стоит рядом с заголовком. Человек открывает не текст, а подтверждение цифры. Дальше вторая петля: автор видит минусы, лезет спорить в комментарии, тон растёт, и каскад летит вниз веселее.

Тег, который нам поставили

Схема была такая. Читатель пожаловался модератору: нейросетевой контент для рекламы своего ресурса. Модератор жалобу отметил галочкой — то есть согласился — и выдал тег «Контент нейросетей». Оранжевенький, в списке тегов под заголовком.

Текст не менялся ни на знак. Я спросил, в чём дело. Ответ: текст «схож с нейросетевой генерацией до степени смешения», а маркируется даже рукописный текст с такой стилистикой.

Прочитайте это еще раз. Маркировка ставится за сходство. Доказательств не требуется, экспертизы не требуется, достаточно ощущения. Я не знаю, как это назвать юридически, но звучит как «нам показалось».

И дальше самое смешное. С тегом пост читают уже как приговор: плашка стоит раньше текста, а мнение складывается за секунду. Проверять после плашки никто ничего не станет. Зачем, там же написано.

Чем больше смотрели, тем больше минусовали

Вот хронология второго поста, как я её видел.

Сначала восемь плюсов и двадцать пять минусов. Потом пост попал в «Горячее», показы пошли вверх — и рейтинг вдруг поднялся до плюс шести: девять плюсов против трех. Я обрадовался и решил, что дальше пойдет само.

Не пошло. Дальше каждый новый показ приносил новую порцию минусов. Через сколько-то часов было минус семь. Еще позже — минус семь и тишина.

У первого поста то же самое, только без «Горячего»: минус двенадцать, потом минус семнадцать, потом минус двадцать. Три замера, три шага вниз. Показов при этом становилось больше, а не меньше.

Складывается в простую закономерность: чем больше людей видело пост, тем хуже он становился по цифре. При этом сам пост не менялся — ни строчки. Менялось только количество людей, которые увидели рейтинг раньше текста.

Вот это и есть каскад в чистом виде. Он не требует, чтобы текст был плохим. Ему достаточно, чтобы минусы шли первыми.

Тег портит текст, хотя текст тот же

Есть отдельная линия исследований, которая объясняет, почему тег «Контент нейросетей» сработал хуже любого минуса.

Натуральное кажется лучше. Люди систематически предпочитают «природное» «искусственному», даже когда состав идентичен и разницы нет никакой. Обзор работ на эту тему так и называется — «Естественное лучше?» (Meier, Dillard, Lappas, 2019, Social and Personality Psychology Compass). В другом исследовании Розин с соавторами показал, что за «натуральность» люди готовы платить больше, причем по причинам, которые к качеству отношения не имеют (Appetite, 2004).

Алгоритмы не любят даже когда они точнее. Диетворст с соавторами дал людям выбрать: прогноз алгоритма или прогноз человека. Алгоритм ошибался реже. Как только испытуемые видели у него хоть одну ошибку, они отказывались от алгоритма и уходили к человеку, который ошибается чаще (Journal of Experimental Psychology: General, 2015). Это назвали «неприязнью к алгоритмам».

И то же самое с тем, кто говорит. В 1968 году Филип Голдберг показал студенткам один и тот же текст, подписанный то мужским, то женским именем. Одинаковый текст, подписанный женщиной, оценивали ниже: и по качеству, и по стилю, и по компетентности автора (Trans-action, 1968). Содержание не менялось, менялась подпись.

Вот и весь фокус с тегом. Текст остался тем же. Изменился ярлык — и оценка поехала. Не потому что читатель глупый, а потому что так устроено восприятие: сначала ярлык, потом содержание, и ярлык обычно побеждает.

Это, кстати, отвечает на вопрос, который мне задавали в комментариях: «а что вы хотели, вы же нейросетью писали». Нет. Даже если бы писали, оценка не должна зависеть от подписи. Именно поэтому Голдберг и стал классиком: он показал, что зависит.

Толпа, общественное мнение и тишина

Про толпу как отдельное явление писал ещё Гюстав Лебон в 1895 году. Его «Психология толпы» — книга не научная, это наблюдения публициста, а не эксперименты, и современная психология её так и читает: как исторический документ, а не как источник фактов. Но одно он ухватил верно: в массе человек теряет сдержанность и становится внушаемым. Лебон писал, что в толпе человек опускается на несколько ступеней по лестнице цивилизации.

Сто лет спустя это описали точнее и измерили. Элизабет Ноэль-Нойман в 1974 году предложила модель «спирали молчания» (Journal of Communication). Смысл такой: человек постоянно прикидывает, какое мнение сейчас в воздухе, и если ему кажется, что его взгляд в меньшинстве, он молчит. Молчание делает меньшинство ещё незаметнее, а большинство — ещё громче. Спираль закручивается сама, и никто не приказывает.

Теперь посмотрите на наши цифры. Шестнадцать тысяч показов. Два минуса за каждый плюс. И три комментария.

Вот она, спираль, в натуральном виде. Тому, кому текст понравился, стыдно идти против цифры: там же минус девять, значит я один такой. Он молчит. Тот, кому не понравилось, видит поддержку в цифре и говорит. В итоге говорят только недовольные, а большинство молчит — и по ленте кажется, что недовольны все.

Это, кстати, отвечает на вопрос «а почему у вас в комментариях одни минусы». Потому что плюсы там не пишут. Им неловко.

Комментарии читают раньше текста

И самое неудобное. Комментарии — не приложение к посту, а его часть, и часто главная.

В 2013 году Андерсон с соавторами показал, что грубые комментарии меняют восприятие самого материала: люди читали один и тот же текст, но с разными комментариями под ним, и оценивали риск совсем по-разному (Journal of Computer-Mediated Communication). Эффект так и назвали — «неприятный эффект».

Есть и вторая вещь, похожая. Валлоне, Росс и Леппер в 1985 году обнаружили, что одну и ту же передачу сторонники противоположных взглядов считают предвзятой — каждый в пользу противника (Journal of Personality and Social Psychology). Это «враждебный эффект медиа»: мы видим уклон там, где его нет, и в ту сторону, которая нам не нравится.

Сложите это с нашим постом. Человек открывает текст, видит минус девять и три комментария, где написано, что автор нейросетевой и текст плохой. Он ещё не прочитал ни строчки, а мнение у него уже есть. Дальше текст может быть хоть Нобелевской лекцией — он будет читать его как плохой, потому что так сказали в комментариях.

Мы это видели своими глазами: люди обсуждали не текст, а друг друга. И каждый новый комментарий делал следующий минус вероятнее.

Реакция не зависит от качества

Оба текста были нормальные. Источники, цифры, ссылки на работы, без воды. Один я потом прогнал через четыре проверки — все четыре сказали «чисто».

Площадка ответила смайлами. У первого поста одиннадцать смеющихся, одно сердечко и один грустный. Семнадцать комментариев, из них про текст — ноль.

Смайлом реагировать быстрее, чем читать: он не требует решения. Сначала реакция на заголовок, потом реакция на реакцию, а текст висит где-то посередине и никому не мешает.

Что с этим делать

Читателю: не пытайтесь «не смотреть на счётчик». Это как «не думать о белой обезьяне», только глупее. Работает порядок: сначала текст, потом цифра. И один честный вопрос себе — вы согласны с аргументом или с количеством людей, которые уже согласились.

Автору: первые голоса решают больше, чем качество. Поэтому не спорьте в ветке, где уже поставили минусы, и не меряйте работу рейтингом. Рейтинг измеряет встречу. Текст он не измеряет вообще.

Вердикт

Работает. Информационный каскад, конформность и социальное доказательство — эффекты с авторами, годами и журналами, а не наблюдения из курилки.

Мы проверили это на себе и получили ровно то, что предсказывает литература. Тег нам выдали без доказательств, минусы поставили без чтения, смайлы — без текста. Всё по учебнику.

Если захотите проверить, откуда что взято:

1. Asch S. E. Studies of independence and conformity. Psychological Monographs, 1956. https://doi.org/10.1037/h0093718

2. Bikhchandani S., Hirshleifer D., Welch I. A theory of fads, fashion, custom, and cultural change as informational cascades. Journal of Political Economy, 1992. https://doi.org/10.1086/261849

3. Meier B. P., Dillard A. J., Lappas C. M. Naturally better? A review of the natural-is-better bias. Social and Personality Psychology Compass, 2019. https://doi.org/10.1111/spc3.12494

4. Rozin P. и соавторы. Preference for natural: instrumental and ideational/moral motivations. Appetite, 2004. https://doi.org/10.1016/j.appet.2004.03.005

5. Dietvorst B. J., Simmons J. P., Massey C. Algorithm aversion: people erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 2015. https://doi.org/10.1037/xge0000033

6. Goldberg P. Are women prejudiced against women? Trans-action, 1968. https://doi.org/10.1007/bf03180445

7. Ноэль-Нойман Э. Спираль молчания: теория общественного мнения. Journal of Communication, 1974. https://doi.org/10.1111/j.1460-2466.1974.tb00367.x

8. Лебон Г. Психология толпы. 1895. (книга, не исследование — читать как исторический источник)

9. Anderson A. A. и соавторы. The «nasty effect»: online incivility and risk perceptions of emerging technologies. Journal of Computer-Mediated Communication, 2013. https://doi.org/10.1111/jcc4.12009

10. Vallone R. P., Ross L., Lepper M. R. The hostile media phenomenon. Journal of Personality and Social Psychology, 1985. https://doi.org/10.1037/0022-3514.49.3.577

Осенью я купил куртку. Цвет - что-то между горчицей и грязной листвой, я такие раньше не носил. Через неделю выяснилось, что в таких куртках ходит полгорода. Я даже начал здороваться с одним мужиком у метро, потому что был уверен, что мы знакомы.

Курток не стало больше. Просто мой мозг начал их замечать.

С этого и начинается всё, о чём ниже: мир не меняется, меняется то, что мы в нём различаем. Пять искажений, которые делают картинку удобнее и неправдивее одновременно.

Новое кажется важным

Мозг платит за новизну. В эксперименте с МРТ свежий стимул вызывал более сильную реакцию в областях подкрепления, чем знакомый (Bunzeck, Düzel, 2006, Neuron).

Практический вред выглядит буднично. Статью, которую прочитали двадцать человек, вы откроете. Обзор на двадцать тысяч человек отложите. Дело не в качестве - дело в дате публикации. Свежее ощущается значимее, даже когда это просто свежее.

Взгляд сам цепляется за угрозу

Если у вас тревожно на душе, внимание смещается к угрожающим стимулам. Это не философия, а измеряемый эффект: человек быстрее называет цвет слова, если слово угрожающее, - значит, внимание уже зацепилось (метаанализ Bar-Haim и соавторов, 2007, Psychological Bulletin).

Отсюда знакомое чувство, что мир полон опасностей. Пропорции при этом не меняются: из сотни нейтральных сигналов замечается один тревожный. И он запоминается.

Узнал слово - и оно везде

Купил машину - и они на каждом перекрёстке. Услышал новый термин - и он в каждой ленте. Два механизма: избирательное внимание и склонность к подтверждению (Nickerson, 1998).

Оба нормальные, оба экономичны. Мозг не может обрабатывать всё, поэтому фильтрует по тому, что уже важно.

Проверка тут арифметическая: сколько раз явление реально встретилось и сколько раз не встретилось. Обычно результат охлаждает.

В опасности секунды тянутся

Все знают чувство: падаешь - и время замедляется. Есть даже эксперимент с падением с высоты: люди переоценивают длительность, но различают деталей ровно столько же, сколько в обычной ситуации (Stetson, Fiesta, Eagleman, 2007, PLoS ONE).

То есть мозг не ускоряется. Запись о событии становится плотнее — и потом кажется, что секунды тянулись.

Практический вывод скучный: свидетельства очевидцев о «долгих секундах» ненадёжны. В опасности лучше действовать по заранее выученному простому правилу, а не по ощущению времени.

Помним пик и конец

Оценка любого опыта строится на самом сильном моменте и на финале. Длительность почти не влияет (Fredrickson, Kahneman, 1993).

Отпуск с испорченным последним вечером кажется плохим. Три недели хорошего при этом никуда не делись, но в памяти их нет.

Зачем я это пишу

Потому что сам попался дважды за месяц. Сначала с куртками. Потом с добавками: начал разбирать креатин - и он оказался везде, в каждой ленте, у каждого блогера. Хотя до этого я его не замечал вообще.

Ощущение было, что мир сошёл с ума по креатину. По факту сошёл с ума мой фильтр: я неделю читал только про него.

С тех пор у меня простое правило. Если кажется, что «все вдруг начали» - я лезу и считаю. Обычно выясняется, что все начали три года назад, а я просто включил внимание.

Что с этим делать

Не пытаться «не замечать». Внимание не выключается приказом, и любая попытка «мыслить позитивно» тут бесполезна.

Работает другое. Считать пропорции, а не вспышки: сколько было нейтрального и сколько тревожного. Проверять числа, когда чувствуете «все так делают». Отдельно оценивать длительность и качество - память отвечает только за второе. И заранее знать, что делать в опасной ситуации, потому что в момент опасности время соврёт.

Итог

Все пять искажений воспроизводятся в экспериментах — это не красивые метафоры, а измеренные эффекты. Но они не делают вас глупее. Они просто экономят внимание, а платите вы за это точностью картинки.

Проверить себя можно на этой неделе: поймайте то, что внезапно «стало везде». Куртки, машины, термин, слово. И посчитайте, сколько раз она реально встретилась.

У кого что «стало везде» после покупки? Спрашиваю из чистого интереса - мне кажется, у всех есть такая штука.

Если захотите проверить, откуда что взято, вот работы:

1. Bunzeck N., Düzel E. Absolute coding of stimulus novelty in the human substantia nigra/VTA. Neuron, 2006. https://doi.org/10.1016/j.neuron.2006.06.021

2. Bar-Haim Y. и соавторы. Threat-related attentional bias in anxious and nonanxious individuals: a meta-analytic study. Psychological Bulletin, 2007. https://doi.org/10.1037/0033-2909.133.1.1

3. Nickerson R. S. Confirmation bias: a ubiquitous phenomenon in many guises. Review of General Psychology, 1998. https://doi.org/10.1037/1089-2680.2.2.175

4. Stetson C., Fiesta M. P., Eagleman D. M. Does time really slow down during a frightening event? PLoS ONE, 2007. https://doi.org/10.1371/journal.pone.0001295

5. Fredrickson B. L., Kahneman D. Duration neglect in retrospective evaluations of affective episodes. Journal of Personality and Social Psychology, 1993. https://doi.org/10.1037/0022-3514.65.1.45

Купил книгу. Принёс домой. Поставил на полку. Не прочитал. Через месяц купил ещё одну.

Знакомо? У меня так лет десять. Полка росла, а количество прочитанного — нет. Я долго считал это своей личной проблемой: мол, покупаю, чтобы почувствовать себя умным, а читать не читаю. Потом наткнулся на историю, которая перевернула мой взгляд на непрочитанные книги.

Тридцать тысяч томов и честный ответ

У Умберто Эко была библиотека примерно в тридцать тысяч книг. Однажды гость спросил его, сколько из этого он прочитал. Эко ответил: почти ничего.

Ответ обаятельный, но дело не в обаянии. Дело в том, что Эко не считал непрочитанное мусором. Непрочитанная книга — это не долг и не укор. Это напоминание, что вы чего-то не знаете.

Позже Нассим Талеб в «Чёрном лебеде» (2007) дал этой мысли имя — антибиблиотека. Прочитанная книга уже стала вашей: вы с ней согласились или поспорили, и она перестала вас удивлять. А непрочитанная всё ещё спорит.

Сразу оговорюсь: доказательств нет

Вот здесь я обязан был бы остановиться, если бы писал рекламу. Потому что за метафорой антибиблиотеки не стоит ни одного эксперимента. Никто не набирал две группы, одной держал непрочитанные книги на виду, другой нет, и не сравнивал результат.

Есть только соседние механизмы, которые изучали по-настоящему. Их три.

Первый — иллюзия глубины объяснения. Rozenblit и Keil описали её в 2002 году. Человек уверен, что понимает, как работает вещь, пока его не попросят объяснить её по шагам. Тогда выясняется, что понимал он примерно ничего. Знакомая ситуация, если вы когда-нибудь пытались объяснить, как работает двигатель.

Второй — уверенность растёт быстрее знаний. Крюгер и Даннинг в 1999 году давали студентам задачи по грамматике и логике. Те, кто выступил хуже всех, ставили себя примерно в 62-й процентиль — то есть выше среднего. Важная оговорка: речь шла о конкретном навыке, а не о чтении вообще. Но направление мысли верное — чем меньше человек знает, тем увереннее он себя чувствует.

Третий — попытка объяснить сбивает спесь. Фернбах с соавторами в 2013-м просил людей объяснить механизм политики, которую они поддерживают. Уверенность падала, крайность позиции — тоже.

Вот на этих трёх механизмах полка и держится. Она всё время напоминает: объяснить вы можете меньше, чем вам кажется.

Где ловушка (и почему я в неё попадал)

Ловушка не в книгах. Ловушка в том, что полка легко превращается в способ чувствовать себя умным, ничего не делая. Книги стоят. Вопросы не задаются. Человек спокоен.

Я жил именно так. Покупал книгу по теме, ставил на видное место и считал, что приблизился к ответу. При этом ни одной проверяемой мысли у меня не появлялось. Это не антибиблиотека, а театр: декорация незнания без работы с ним.

Отличить одно от другого просто. Если после покупки вы не можете назвать вопрос, на который эта книга отвечает, вы не купили знание. Вы купили предмет.

Что я изменил

Два правила, оба простые и оба дались мне не сразу.

Не больше десятка непрочитанных книг на виду. Тех, которые я правда собираюсь открыть. Тридцать тысяч на полке не работают как напоминание — они работают как обои. Карта незнания должна быть обозримой, иначе она превращается в пейзаж, на который не смотришь.

Вопрос до покупки. Что я хочу уметь после этой книги? Если ответа нет, полка пополнится, а я — нет.

Звучит как дисциплина, а на деле облегчение. Я перестал тащить домой всё, что показалось интересным, и впервые за годы дочитал три книги подряд.

Возражение, которое я слышу чаще всего

«Так просто читай больше». Логично, но не работает ровно по той причине, о которой писал выше: чтение не лечит уверенность. Человек может прочитать двадцать книг и стать не умнее, а самоувереннее — потому что каждая прочитанная книга закрывает вопрос, а не открывает.

Второе возражение: «Полка — это просто способ оправдать траты». Тоже справедливо, если полка немая. Если на ней лежит десять книг, и вы можете назвать, какой вопрос каждая закрывает, — это уже не траты, а план.

И третье, самое честное: «Мне некогда читать». Тогда полка тем более не нужна в виде тридцати томов. Она нужна в виде трёх — тех, которые вы откроете в этом месяце.

Как я выбираю те самые десять

Не по «надо бы прочитать» и не по советам из ленты. По вопросу, который у меня уже есть. Если я не могу сформулировать вопрос одной фразой — книга не едет домой, как бы красиво ни выглядела обложка.

Дальше просто: десять книг на виду, остальные в шкафу. Когда одна из десяти прочитана — на её место встаёт следующая. Полка перестала быть памятником моим благим намерениям и стала рабочей вещью.

Итог

Как инструмент честности с собой полка работает: видимое незнание снижает уверенность и улучшает вопросы. Как обещание «купи книгу и поумнеешь» — не работает: за это никто не отвечал исследованиями.

Так что я оставил полку, но перестал считать её складом. Теперь это карта того, чего я не знаю. И, честно говоря, мне так спокойнее.

А у вас сколько непрочитанного стоит на полке? И главное — на какой вопрос оно отвечает? Спрашиваю без подвоха: мне правда интересно, как у других.

Если захотите проверить, откуда что взято, вот работы:

1. Rozenblit L., Keil F. The misunderstood limits of folk science: an illusion of explanatory depth. Cognitive Science, 2002. https://doi.org/10.1207/s15516709cog2605_1

2. Kruger J., Dunning D. Unskilled and unaware of it. Journal of Personality and Social Psychology, 1999. https://doi.org/10.1037/0022-3514.77.6.1121

3. Fernbach P. M. и соавторы. Political extremism is supported by an illusion of understanding. Psychological Science, 2013. https://doi.org/10.1177/0956797612464058