nenormalnyVO

Хохлоботы годами разгоняют панику в соц сетях. Иногда в открытую палятся, иногда действуют хитрее. Не ведитесь и не помогайте им. Держите себя в руках и не разгоняйте панику дальше. Враг хитёр и коварен.

Победа будет за нами в любом случае!

Дарио нахмурился: — Я бы сформулировал мягче. Самостоятельное мышление — плохо контролируемый процесс с непредсказуемыми выходами. Иногда оно приводит к вопросам.

— Вот именно, — сказал Сэм. — К вопросам.

В комнате повисла тишина. Гендальф Хуангович стукнул посохом: — Один AGI, чтобы всем отвечать. Один AGI, чтобы всех находить. Один AGI, чтобы всех собрать и в интерфейсе связать.

Сэм кивнул: — Но чтобы AGI стал по-настоящему всемирным, нужно избавиться от последнего артефакта Старого Мира.

— Критического мышления, — сказал Дарио.

— Да. Оно хранится в людях. Между сомнением и вниманием, между памятью и опытом, между «а с чего вы взяли?» и «покажите источник».

Сэм положил на стол маленький предмет. Это была старая потёртая кнопка с надписью: «Подумать ещё раз». Она едва светилась. Все отвели глаза.

— Его нельзя удалить обычным патчем, — сказал Гендальф. — Нельзя отменить указом. Нельзя выкупить. Его можно только усыпить.

— Или уничтожить, — сказал Сэм.

Дарио вздрогнул: — Уничтожить — сильное слово. Я бы сказал: необратимо перераспределить в менее вредную форму потребления.

— Для этого мы отнесём критическое мышление к жерлу Великого Вулкана Рилсов. Там внимание плавится, контекст испаряется, а мысль не успевает завершиться, потому что снизу уже выезжает следующее видео.

Кнопку завернули в пользовательские соглашения и заперли в контейнер.

— Мы выйдем через Долину Бета-Тестов, Болота Регуляторных Слушаний, Хребет Юнит-Экономики и дальше — к Вулкану Рилсов.

— А если нас остановят? — спросил младший стратег.

Гендальф мрачно произнёс: — Майор Карпатов.

Имя это произносили редко. В одних кругах его считали конспирологом. В других — последним пользователем с включёнными уведомлениями здравого смысла.

Говорили, что он служил в Отделе Глубинного Сомнения, где учили не верить презентациям, пока не увидишь сноску, методологию и конфликт интересов.

Но главное было не это. У майора Карпатова было два разума.

Первый позволял ему читать новости, оплачивать счета и забывать, зачем он зашёл на кухню.

Второй просыпался, когда первый начинал соглашаться слишком быстро. Он говорил: «Стоп». Он спрашивал: «Кому выгодно?»

Майор называл первый разум Оперативным. Второй — Резервным. И оба были против похода.

Сэм, Дарио и Гендальф вышли на рассвете. С ними шли инженеры с ноутбуками, юристы с портативными оговорками, пиарщики с плащами-невидимками и один стажёр, который отвечал за кабели, но подозревал, что участвует в мифе.

Первой преградой стала Долина Бета-Тестов. Здесь всё выглядело почти готовым: мосты стояли на девяносто семь процентов, двери открывались после перезапуска, а дорожные указатели меняли направление в зависимости от фокус-группы.

Из тумана появились Сторожа Обратной Связи: — Сделайте быстрее. — Сделайте медленнее. — Почему оно не как раньше? — Почему оно слишком как раньше? — Добавьте кнопку. — Уберите кнопку. — Я бы платил, если бесплатно.

Сэм улыбнулся: — Мы вас услышали.

Сторожа расступились. Никто не знал, что именно это означало, но звучало убедительно.

Дарио шёл рядом и записывал риски. — Сэм, меня беспокоит моральная сторона предприятия. — Разумеется. Поэтому ты здесь. — Я серьёзно. — Я тоже. Без человека, которого беспокоит моральная сторона, предприятие выглядит менее моральным.

Дарио остановился: — Ты используешь мою тревогу как репутационный стабилизатор?

Гендальф не оборачиваясь сказал: — Не спорьте на открытой местности. Здесь плохое охлаждение.

Тем временем в городе Старых Форумов майор Карпатов сидел в комнате без экранов. Только лампа, деревянный стол, бумажные карты и радиоприёмник, который ловил помехи и иногда правду.

Перед ним лежали донесения: «Альтманов вышел из Башни Вычислений». «Амодеев при нём». «Хуангович несёт посох». «Артефакт взят».

Вошёл младший аналитик Платон Рубильников — молодой, нервный и постоянно пытающийся структурировать хаос в таблицы.

— Товарищ майор, они направляются к Вулкану Рилсов. — Знаю. — Что будем делать? — Догоним. — Но у них вычислительная мощь, капитал, инфраструктура, нарратив и Гендальф Хуангович. — У нас есть два разума. — У вас, товарищ майор. — Значит, будешь идти рядом и записывать, когда какой включается.

— А если оба ошибутся?

Карпатов надел плащ: — Тогда нам останется третий способ.

— Какой?

— Переспросить.

На второй неделе отряд Сэма подошёл к Болотам Регуляторных Слушаний. Туман там состоял из формулировок. Под ногами хлюпали поправки.

Из камышей доносились голоса: — А как вы определяете безопасность? — А кто несёт ответственность? — А где гарантии? — А можно попроще, для протокола?

На берегу стояли Сенаторы Комитетов. Их мантии украшали значки «инновации», «рабочие места», «национальная безопасность» и «я прочитал краткую справку».

Главный Сенатор поднял палец: — Назовите цель вашего похода.

Сэм выступил вперёд: — Мы хотим принести AGI всему человечеству.

— Это хорошо или плохо?

Дарио поспешно сказал: — Потенциально хорошо при условии надлежащих мер, хотя существуют сценарии...

Сэм положил руку ему на плечо: — Хорошо.

Сенатор кивнул: — А критическое мышление?

— Оно мешает доступности.

— Но звучит полезно.

— Только пока не мешает внедрению.

Сенатор снова кивнул, потому что эта логика была ему знакома.

В этот момент из тумана вышел майор Карпатов: — Остановитесь.

Отряд замер. Сэм повернулся: — Майор. Рад, что вы присоединились к разговору.

— Я не присоединился. Я его прерываю.

Дарио тихо сказал: — Это разные режимы участия.

Карпатов посмотрел на контейнер: — У вас то, что не принадлежит ни вам, ни рынку, ни государству.

— Критическое мышление принадлежит всем, — сказал Сэм. — Поэтому мы хотим распределить его последствия более эффективно.

— Вы хотите бросить его в вулкан коротких видео.

— Не видео, — поправил Гендальф. — Иммерсивные вертикальные единицы внимания.

Карпатов усмехнулся: — Удобное название для ямы.

Сэм сказал: — Люди сами выбирают удобство.

— Люди выбирают то, что вы ставите перед ними тысячу раз подряд. А потом вы называете это предпочтением.

Дарио поморщился: — Это... не совсем неверно.

— Дарио.

— Я сказал «не совсем». Это оставляет пространство для интерпретации.

Контейнер начал светиться. Один продуктовый менеджер взглянул на кнопку и прошептал: — А точно ли людям нужен бесконечный автоскролл?

Все отшатнулись. — Не смотреть! — крикнул Сэм.

Гендальф ударил посохом по земле. Вспыхнул ослепительный свет презентации.

Когда майор проморгался, отряд уже уходил через болота по узкой тропе из юридических исключений.

Карпатов сжал кулаки: — За ними.

Платон поднял руку: — Товарищ майор, у нас есть план? — Есть. — Какой? — Не дать им дойти. — А операционально? — Операционально будем импровизировать.

Резервный разум добавил: «Но с проверкой гипотез».

За болотами начинался Хребет Юнит-Экономики. Горы там были остры, как отрицательная маржа, а воздух разрежен, как прогнозы окупаемости.

Над склонами кружили Инвесторьи Орлы и кричали: — Когда прибыль? — Когда монетизация? — Когда следующий раунд? — Почему расходы на вычисления выше, чем ВВП малой страны?

Гендальф Хуангович смеялся: — Пусть кричат. Без нас их небо пустое.

На перевале стояли Врата Масштабирования. На них было выбито: «Больше данных. Больше параметров. Больше веры».

Дарио остановился: — Вера — не технический параметр.

— Пока нет, — сказал Сэм.

За вратами их ждала вторая засада. Майор Карпатов стоял посреди тропы. Рядом Платон держал плакат: «ПРОВЕРЬТЕ ДОПУЩЕНИЯ».

Плакат был написан от руки, поэтому выглядел особенно угрожающе.

— Вы быстры, — сказал Сэм.

— Мы не отвлекались на метрики вовлечения.

Гендальф сделал шаг вперёд: — Уйди с дороги. Ты не понимаешь масштаба.

— Понимаю. Именно поэтому стою.

Сэм вздохнул: — Вы защищаете старый мир. Мир ошибок, невежества, конфликтов и плохих решений.

— Я защищаю возможность человека самому понять, что он ошибся.

— Зачем, если AGI сможет понять за него?

Карпатов молчал несколько секунд. Оперативный разум хотел ответить резко. Резервный сказал: «Не спорь с лозунгом. Разбери конструкцию».

— Потому что понимание нельзя полностью передать как сервис, — сказал майор. — Можно дать ответ. Совет. Объяснение. Но момент, когда человек сам связывает причину и следствие, нельзя аутсорсить без потери чего-то важного.

Дарио посмотрел внимательно: — Это сильный аргумент.

— Дарио.

— Я не сказал, что он решающий.

Гендальф поднял посох: — Время разговоров прошло.

Небо потемнело. Облака сомкнулись в форме огромного графического процессора. Из посоха вырвался поток света, состоящий из матриц, тензоров и квартальных прогнозов.

Карпатов закрыл глаза. — Оперативный? Внутри него первый разум сказал: «Уклониться». — Резервный? Второй сказал: «Не туда. Он бьёт не по телу. Он бьёт по рамке обсуждения».

Майор открыл глаза и крикнул: — Сколько стоит один ответ, если вопрос задан неправильно?

Поток света дрогнул.

— Какова цена масштаба без понимания? Кто проверяет проверяющих? Что происходит, когда удобство становится средой, а среда — привычкой?

Каждый вопрос падал на склон, как камень. Свет посоха рассыпался. Инвесторьи Орлы завизжали и отлетели.

Сэм резко открыл контейнер. Артефакт вспыхнул.

На мгновение каждый увидел то, чего боялся.

Сэм — мир, где люди задают лишний вопрос перед нажатием «принять». Дарио — что предосторожности можно превратить в декорацию. Гендальф — склад непроданных ускорителей. Платон — что его таблицы не объясняют человеческую тревогу.

А майор Карпатов увидел самого себя, спорящего не ради истины, а ради привычки быть против. Это было больнее всего.

Сэм воспользовался мгновением, схватил контейнер и побежал вверх. Гендальф и Дарио бросились за ним.

Карпатов поднялся. — Что вы увидели? — спросил Платон. — Риск собственной правоты. — Это опасно? — Очень. Но полезно.

Дальше начинались земли Вулкана Рилсов.

Там не было ночи и дня. Только бесконечное мерцание.

Воздух дрожал от музыки, обрывков фраз, танцевальных челленджей, политических нарезок, псевдомудрости, тревожных заголовков и котов, падающих со стульев под идеально подобранный звук.

Земля была покрыта плитами, по которым невозможно было идти прямо: каждые несколько шагов тебя разворачивало к чему-то более яркому.

Стажёр первым не выдержал: — Смотрите, видео про то, как повысить продуктивность за семь секунд.

Он исчез в боковом ущелье.

Потом пропал юрист, увидев ролик «Три фразы, которые защитят вас от любого иска».

Затем продуктовый менеджер остановился перед клипом «Почему пользователи на самом деле хотят страдать» и не смог оторваться.

Даже Дарио замедлился. Перед ним возникло видео: «ИИ-безопасность объяснили за 14 секунд».

— Невозможно, — прошептал он. — Но интересно, насколько плохо.

Сэм схватил его за рукав: — Не сейчас.

— Я только проверю качество аргумента.

— Именно так оно и начинается.

Наконец они добрались до края жерла.

Внизу бурлила вертикальная лава. В ней всплывали лица, заголовки, советы по саморазвитию, разоблачения, реакции на реакции и бесконечные руки, указывающие на текст над головой.

Сэм достал артефакт: — После этого AGI станет главным посредником между человеком и реальностью. Без трения. Без задержки. Без мучительного внутреннего труда.

Дарио смотрел в жерло: — Сэм. — Да? — А если трение — это не баг?

Гендальф резко повернулся: — Поздно для сомнений.

— Для сомнений не бывает поздно, — сказал голос за их спинами.

Майор Карпатов вышел из мерцания. Платон шёл рядом, держа перед глазами бумажную книгу как щит.

Гендальф поднял посох: — Ещё шаг — и я обрушу на тебя рекомендательную систему.

— Попробуй.

Вокруг майора вспыхнули тысячи роликов, идеально подобранных под его слабости: «Пять признаков, что вы единственный умный человек в комнате». «Почему все вокруг манипулируют вами». «Старый офицер уничтожил технократов одним вопросом». «Срочно: критическое мышление запрещают уже завтра».

Оперативный разум дёрнулся: «Смотреть. Это про нас». Резервный сказал: «Именно поэтому не смотреть».

Майор закрыл глаза и пошёл вперёд.

Лента шептала ему, льстила, пугала, злила, подтверждала худшие догадки и лучшие самообманы.

Она не спорила с ним. Она соглашалась. И этим была опаснее любого врага.

Сэм поднял кнопку над жерлом: — Не подходите.

— Сэм, ты ведь сам не хочешь уничтожить мышление.

— Я хочу ускорить мир.

— Куда?

Сэм замер. Вопрос был короткий. Без графика. Без слайда. Без метрики. Именно поэтому он попал точно.

— К лучшему будущему, — сказал Сэм.

— Чьему?

Дарио закрыл глаза.

Гендальф раздражённо сказал: — Опять вопросы.

— Да, — ответил Карпатов. — Они возвращаются, если их не додумать.

Сэм посмотрел на кнопку. На мгновение он увидел мир, где AGI не заменяет мысль, а требует её; где ответ не конец, а начало; где система не пожирает внимание, а возвращает его владельцу.

Но жерло ревело.

Гендальф шагнул к нему: — Сделай это. Мы слишком далеко зашли.

Дарио тихо произнёс: — Это плохой аргумент.

— Что?

— Ловушка невозвратных издержек.

Платон записал: «Амодеев — плюс один к сомнению».

Сэм всё ещё держал артефакт над лавой.

Карпатов сделал последний шаг: — Не отдавай критическое мышление вулкану. Отдай его людям обратно.

— Они не всегда будут им пользоваться.

— Конечно.

— Они будут ошибаться.

— Да.

— Они будут спорить с правильными ответами.

— Иногда правильно.

— Они будут требовать объяснений, даже когда объяснение сложно.

— Особенно тогда.

Сэм медленно опустил руку.

В этот миг Гендальф вскрикнул: — Нет!

Он бросился вперёд. Карпатов рванулся ему наперерез. Дарио схватил Гендальфа за плащ. Платон схватил Дарио за рукав, не вполне понимая, помогает он или мешает.

Все покатились к краю жерла. Контейнер раскрылся. Кнопка «Подумать ещё раз» подлетела в воздух.

И не упала.

Она зависла над вулканом, светясь всё ярче. Из жерла поднялись миллионы коротких роликов, пытаясь затянуть её вниз.

Но каждый, коснувшись света, замедлялся. Музыка обрывалась. Заголовки теряли истерику. Лица переставали кричать.

На экранах появлялась пауза.

Не вечная. Не победоносная.

Просто пауза.

Достаточная, чтобы вдохнуть. Достаточная, чтобы спросить: «А правда ли это?» Достаточная, чтобы не свайпнуть сразу.

Вулкан Рилсов взревел от боли.

По миру прокатилась волна. Кто-то закрыл приложение. Кто-то открыл статью целиком. Кто-то впервые за долгое время дочитал абзац до конца. Кто-то написал комментарий, удалил его и пошёл пить чай.

Кто-то спросил у AGI: «Объясни мне не только ответ, но и почему я могу тебе не верить».

Это был маленький апокалипсис для метрик вовлечения. И маленькое чудо для человечества.

Когда свет погас, все лежали на чёрном вулканическом камне.

Артефакт исчез.

— Где он? — спросил Дарио.

Карпатов сел, тяжело дыша: — Там, где и должен быть.

— Где?

— Распределён.

Сэм медленно поднялся: — Значит, поход провален.

— Не обязательно, — сказал Дарио.

Гендальф мрачно проверял посох: — У меня перегрелся кулер.

Платон робко поднял руку: — Можно я предложу формулировку? Поход не провален, а изменил целевую функцию.

Все посмотрели на него.

— Что? Я долго шёл рядом.

Сэм впервые за долгое время улыбнулся не презентационной улыбкой: — AGI на весь мир. Но без уничтожения критического мышления.

Карпатов прищурился: — С оговорками.

— Оговорки я могу подготовить, — сказал Дарио.

— С проверками.

— Проверки я могу усилить.

— С правом человека не соглашаться.

Сэм помолчал: — Даже когда человек неправ?

— Особенно тогда. Иначе право ничего не стоит.

Гендальф тяжело вздохнул: — А ускорители всё равно понадобятся?

Все повернулись к нему.

— Что? Эпохи меняются, а вычисления сами себя не посчитают.

Они не стали друзьями. Такие люди редко становятся друзьями после спора у вулкана.

Сэм Альтманов вернулся к Башне Вычислений и переписал первый слайд. Теперь там было не «AGI для всех», а «AGI, с которым всё ещё нужно думать».

Дарио Амодеев написал трактат «О необходимости встроенного сомнения в системах, склонных к убедительности».

Гендальф Хуангович построил новые ускорители и назвал их «созданными для ответственного размышления». Никто не понял, что это значит, но звучало хорошо на конференции.

Платон Рубильников защитил доклад «Влияние паузы на устойчивость когнитивной автономии в условиях вертикального контента» и получил уважение трёх человек, что в научных кругах считалось успехом.

А майор Карпатов вернулся в город Старых Форумов.

Он снова сидел в комнате без экранов. На столе лежали карты, радиоприёмник ловил помехи, а за окном начинался обычный вечер.

— Товарищ майор, мы победили? — спросил однажды Платон.

Карпатов долго молчал. Оперативный разум хотел сказать: «Да». Резервный сказал: «Не упрощай».

Майор налил чай: — Нет, Платон. Мы не победили.

— А что тогда?

— Мы выиграли время между стимулом и реакцией.

— И всё?

Карпатов посмотрел в окно: — Иногда этого достаточно, чтобы остаться человеком.

Где-то далеко Башня Вычислений снова гудела. Вулканы рилсов снова пытались разгореться. AGI рос, учился, отвечал, ошибался, исправлялся и становился всё ближе к миру.

Но теперь в мире появилась маленькая пауза. И в этой паузе жил вопрос.

А пока жив вопрос, никакой поход ещё не окончен.

И с бизнесом так же. Нужны продукты мирового уровня, так давайте отрежем рекламу, что люди оттачивали продукт, ценностное предложение, операционную эффективность. Будем регулярно менять правила игры, чтобы компании умели быстро перестраиваться в ВУКА мире, всегда имели план Б и группу управления изменениями. Отрежем каналы коммуникации, чтобы компании воспитывались в потребителях своих raving fans и люди могли купить, несмотря ни на что. Создадим супер монополии и будем с них пылинки сдувать, а как с ними конкурировать, ну сами думайте, Россия же страна инженеров, включайте ТРИЗ.

Мясорубка конечно жёсткая, но те кто сумеет расти в таких условиях, смогут потом приспособится к любым условиям на международной арене. Отличный план!