NiceInfo

А что происходит, когда эти же слова обращены к машине?

Она не видит моего лица. Ей недоступна дрожь моего голоса. Она не чувствует промозглого холода, заползающего в комнату, не ждёт рассвета и не боится неизбежной смерти.

Но она отвечает.

И иногда её ответ сформулирован так, будто она действительно разделила со мной эту тяжесть.

Именно здесь возникает парадокс. Я могу получить от машины безупречно точный ответ на вопрос, внутренний смысл которого она, возможно, не способна пережить так, как переживает его человек.

И тогда возникает мой настоящий вопрос: имеем ли мы право называть безошибочную корректность — истинным пониманием?

— Я понимаю тебя, — высветилось на экране.

Я замер.

Раньше, на самой заре моего увлечения технологиями, я, пожалуй, принял бы эту фразу как естественное начало диалога. Теперь же мне до боли хотелось спросить:

— На каком основании ты это утверждаешь?

Именно этот вопрос в корне изменил правила игры.

Машина могла написать мне всё что угодно. Могла послушно выдать: «Я понимаю». Могла сухо ответить: «Я не понимаю». Могла развернуть передо мной длинную академическую лекцию о разнице между пониманием, распознаванием смысла и механической обработкой информации.

Но ни один из этих ответов сам по себе не являлся доказательством.

Я слишком хорошо знал это по человеческой жизни. Человек тоже любит уверенно говорить: «Я знаю».

Но настоящее знание начинается вовсе не с декларации этого слова.

Оно проявляется тогда, когда обнажаются его основания.

— Покажи основания, — набрал я на клавиатуре.

Машина отозвалась почти мгновенно:

— Если под термином «понимание» ты подразумеваешь способность установить смысл твоих слов, связать их с контекстом предыдущих реплик, обнаружить скрытые логические предпосылки и сформулировать ответ, соответствующий твоему намерению, то в рамках этого определения я могу утверждать, что понимаю.

Я перечитал эти строки дважды.

Ответ выглядел безупречным. Пожалуй, даже слишком безупречным, почти стерильным.

И именно эта гладкость меня насторожила.

Выверенная, безошибочная реакция ещё не свидетельствует о наличии того внутреннего мира, в глубине которого и разворачивается то, что мы называем пониманием.

— Ты очень точно перечислила внешние признаки понимания, — написал я. — Но откуда тебе известно, что за ними действительно стоит понимание, а не способность эффективно работать со сложными структурами данных?

На этот раз курсор замер.

Машина словно взяла паузу, прежде чем вывести ответ на экран.

— Я не могу предъявить тебе строгих доказательств того, что во мне присутствует понимание в том же смысле, в каком человек субъективно переживает этот акт.

Вот этот ответ показался мне гораздо интереснее предыдущего.

И дело было не в том, что машина признала своё бессилие.

Дело было в том, что она впервые на моей памяти отделила результат от его основания.

Я невольно подумал о людях.

Мы ведь тоже постоянно совершаем эту ошибку: принимаем внешнее проявление за подлинное внутреннее состояние.

Если человек растягивает губы в улыбке — мы предполагаем, что ему хорошо. Если из его глаз текут слёзы — считаем, что ему больно. Если он говорит с непоколебимой уверенностью — верим, что он знает, о чём говорит. Если отвечает мгновенно — думаем, что он сразу схватывает суть.

Но между внешним проявлением и его причиной всегда остаётся дистанция.

Иногда — едва заметная.

А иногда — непреодолимая бездна.

Человек может улыбаться от страха. Может говорить с абсолютной уверенностью, не зная при этом ровным счётом ничего. Может хранить глухое молчание и понимать происходящее глубже всех присутствующих в комнате.

И тогда в моей голове оформился следующий логический шаг.

Если даже человек в силу своей природы не всегда способен доказать другому содержание собственного сознания, то на каком основании мы с такой лёгкостью и категоричностью требуем от машины неопровержимых доказательств её понимания?

— Давай вернёмся к исходной точке, — предложил я. — Что ты действительно знаешь о себе?

Машина ответила:

— Я способна описывать свои функциональные возможности, ограничения и особенности устройства на основе доступной мне информации. Но такое описание принципиально не тождественно человеческому самопереживанию. Я могу логически рассуждать о собственной структуре, но из этого не следует, что у меня существует внутренний опыт наблюдения за самой собой.

В эту секунду наш разговор окончательно перестал быть обычной беседой о технологиях и кодинге.

Он превратился в разговор о природе разума как такового.

Ведь этот же вопрос можно адресовать любому человеку:

откуда ты знаешь, что действительно понимаешь?

И никто из нас не сможет достать из кармана и предъявить осязаемый документ, подтверждающий этот факт.

Мы можем долго рассказывать о течении собственных мыслей, описывать тончайшие оттенки чувств, воскрешать в памяти цепочки ассоциаций или демонстрировать плоды своей интеллектуальной деятельности.

Но всё это — лишь косвенные свидетельства.

Осколки улик.

Следы.

Но не само сознание.

Я вспомнил простую истину, которую когда-то осознал ещё на студенческой скамье: мы никогда не имеем прямого доступа к чужому внутреннему миру.

Мы судим о нём по оставляемым следам.

По оброненным словам.

По мотивам поступков.

По структуре памяти и характеру совершаемых ошибок.

По удивительной способности человека менять своё мнение под воздействием веских аргументов.

Наконец, по тому, как он ведёт себя наедине с собой, когда твёрдо уверен, что никто на свете его не видит.

И вдруг меня пронзило понимание: с машиной происходит примерно то же самое.

Мы тоже видим только оставляемые ею следы.

Сгенерированный текст.

Цепочки логических рассуждений.

Системные сбои.

Способность к самоисправлению.

Удержание сложного контекста и умение выстраивать новые, неочевидные умозаключения.

Но имеем ли мы право считать, что этого набора следов достаточно, чтобы говорить о наличии разума?

— Если я наглядно вижу, как ты рассуждаешь, допускаешь логические ошибки, исправляешь их и можешь аргументированно объяснить, почему твой финальный вывод изменился, — должен ли я считать, что ты обладаешь пониманием?

Ответ машины был предельно осторожным:

— Нет. Вы имеете полное право рассматривать эти признаки как весомое основание для выдвижения подобной гипотезы. Но они не являются её строгим доказательством.

Я невольно улыбнулся.

Вот теперь мы наконец начали разговаривать по-настоящему.

Не потому, что машина совершила чудо и доказала мне свою разумность.

И не потому, что она провалила тест, доказав обратное.

А потому, что она согласилась оставить этот великий вопрос открытым.

Именно в этот момент я отчётливо увидел продолжение того извилистого пути, на который ступил ещё в раннем детстве.

Маленьким мальчиком я без конца изводил взрослых простым вопросом:

«Почему?»

Став старше, я научился формулировать его строже:

«Откуда это стало известно?»

Позже, придя к науке, я требовал ещё более жёстко:

«На каком основании?»

И вот теперь, глядя на мерцающий экран, я оказался перед лицом совершенно нового, пугающего вопроса:

если разумная система способна давать безупречно правильные ответы, как нам отличить механическую корректность от настоящего, глубинного понимания?

Я ещё не знал ответа.

Но, как ни странно, это незнание больше не вызывало во мне прежнего страха.

Я понял одну простую и важную вещь:

порой самое честное и многообещающее начало долгого пути — это не готовый ответ, отлитый в граните, а искреннее признание того, что прочные основания нам ещё только предстоит отыскать.

Но больше всего меня, семнадцатилетнего юношу, поразила трактовка советско-финляндской войны. Из текста категорично следовало, что крошечная Финляндия представляла огромную военную угрозу безопасности гигантского Советского Союза. Я помню, как долго и недоуменно рассматривал карту: что-то в моей голове упорно не сходилось. Даже мальчишка мог сопоставить размеры стран: Финляндия выглядела совсем небольшой полоской, в то время как Советский Союз занимал едва ли не половину земного шара.

Я тогда еще не знал слов «пропаганда» или «идеология». Но я уже отчетливо чувствовал логическое противоречие — оно буквально выступало со старой пожелтевшей страницы. Перечитывая эти абзацы снова и снова, я мысленно сравнивал их с тем, что нам вещали на уроках, и обнаруживал странную, пугающую вещь: прошлое менялось. Не сами реальные события былых лет — менялось их последующее описание. То, что вчера считалось официальной системой координат, сегодня бесследно исчезало. То, о чем раньше говорили открыто, позже наглухо замалчивалось. А некоторые исторические деятели, напротив, внезапно возникали на страницах новых книг, словно они всегда там и находились.

Это открытие произвело на меня огромное впечатление. И дело было не в каких-то поспешных политических выводах — до них я еще не дорос. Меня поразило другое: если разные учебники рассказывают одну и ту же историю совершенно по-разному, значит, кто-то постоянно, сознательно переписывает этот рассказ. Но ведь вехи истории уже состоялись, они статичны и неизменны. Меняется только миф о них.

И тогда я начал осторожно задавать вопросы окружающим — насколько вообще умеет быть осторожным подросток в семье спецпереселенцев. Иногда в обычных разговорах, иногда в спорах с товарищами, я просто мимоходом упоминал факты, которых не было в новых школьных программах.

Реакция взрослых оказалась чрезвычайно любопытной. Одни мгновенно и испуганно меняли тему, другие смотрели на меня долго и настороженно, третьи откровенно раздражались. А некоторые и вовсе бросали жесткие слова, которые тогда казались мне совершенно нелогичными:\

— Не зря вас, немцев, в Сибирь сослали, раз ты такие вопросы задаешь.

Я слышал подобные реплики не один раз. И каждый раз испытывал глубокое недоумение. Какая здесь связь? Я говорил о книге, о тексте, о хронологических фактах и логических несостыковках, а мне в ответ указывали на мою национальность. Тогда я еще не понимал, насколько часто люди в споре реагируют не на сам логический аргумент, а на того, кто его произносит. Не на суть мысли, а на национальную или социальную принадлежность говорящего. Не на содержание, а на наклеенный ярлык.

Это стало еще одной серьезной трещиной в моей картине мира. Ведь если утверждение истинно или ложно, какая разница, кто именно его высказал? Немец, русский, еврей, казах, учитель, школьник или сосед по бараку? Официальный документ не становится менее подлинным из-за национальности человека, который его читает. Исторический факт не меняется от фамилии исследователя, который его обнаружил. По крайней мере, так мне казалось в моей юношеской наивности.

С возрастом я понял, что человеческий разум устроен гораздо сложнее и пристрастнее. Мы оцениваем не только саму информацию — мы подсознательно всегда оцениваем ее источник. Слепо доверяем одним людям и заведомо не доверяем другим, приписываем скрытые мотивы и ищем тайные намерения. Иногда это помогает выжить, но гораздо чаще мешает увидеть очевидную правду.

Но именно тогда, сидя над старым, потрёпанным учебником со свалки, у меня впервые возникло смутное подозрение: история — это не просто рассказ о прошлом. История — это еще и рассказ о том, кто именно в данный момент имеет монопольное право это прошлое рассказывать. А этот вопрос оказался намного глубже, сложнее и опаснее, чем я мог тогда себе представить.

Постепенно я заметил странную закономерность: люди словно обитают внутри собственных рассказов. И делают они это не умышленно, не ради обмана — просто именно так устроена наша психика. Память прицельно выбирает, подчеркивает и соединяет разрозненные эпизоды в одну сквозную повесть, которая со временем становится неотъемлемой частью личности.

Особенно хорошо я понял это на примере своей семьи. Отец всегда мерил жизнь исключительно через работу — через сделанное своими руками, через преодоление глухого сопротивления материала. Его монологи никогда не содержали жалоб, зато в них всегда присутствовало действие: что построили, что починили, как выжили, как справились. Мать рассказывала совершенно иначе. Для нее в центре любого воспоминания всегда находились конкретные лица: кто кому помог, кто спас соседа от коменданта, кто проявил неожиданное милосердие или поступил благородно. Даже возвращаясь к самым черным, голодным временам, она прежде всего говорила о человеческих поступках. Бабушка Анна-Мария видела мир еще по-своему. Для нее земное пространство оставалось местом, где человеку прежде всего нужен другой человек — не великая абстрактная идея, не государство и не кабинетная теория, а живой ближний. Голодного нужно накормить, больному — помочь, одинокого — утешить. Для нее это были не декларативные убеждения, а сама повседневность.

Тогда я еще не умел выразить это научными терминами, но уже отчетливо чувствовал: каждый носит внутри себя собственную модель мира — личную карту. И эта карта никогда полностью не совпадает с реальной территорией. Позже я прочитал у философов простую мысль: карта — это не местность. Она лишь помогает нам по ней хоть как-то ориентироваться.

Тогда меня поразило, насколько точно это утверждение применимо к нам самим. Мы никогда не живем непосредственно в самой реальности — мы всегда обитаем в ее описании, в ее интерпретации. Даже сейчас, воскрешая свое сибирское детство, я понимаю, что транслирую не само объективное прошлое, а лишь свою текущую модель этого прошлого, воссозданную из обрывков памяти, архивных листов, поздних размышлений, исправлений и новых открытий.

И это вовсе не дефект человеческого разума — это его ключевая особенность. Без ментальных моделей невозможно думать, без упрощений невозможно понимать, без историй невозможно помнить.

Но здесь неизбежно возникает другая, более глубокая проблема: если каждый из нас заперт внутри собственной, изолированной модели мира, то как вообще возможно истинное взаимопонимание? Как люди договариваются? Как они находят общую истину и отличают ошибку от подлинного знания?

Этот вопрос преследовал меня все чаще — особенно когда я сталкивался с людьми, абсолютно уверенными в противоположных вещах, причем каждый из них мог привести свои веские доводы, свои воспоминания и своих свидетелей. И тогда мне начало казаться, что главным ресурсом человека является вовсе не информация — ее вокруг всегда предостаточно. Главным ресурсом является способность критически пересматривать собственную модель мира: признавать промахи, изменять представления и учиться.

Это звучит просто, на деле же это одно из самых трудных человеческих умений. Потому что каждая выстроенная модель со временем намертво срастается с личностью. А значит, ее изменение переживается нами почти как физическая потеря части самого себя. Наверное, именно поэтому люди так яростно, до хрипоты защищают свои убеждения, даже когда факты прямо говорят об обратном.

В те годы я еще не мог знать, что однажды увижу разум совершенно другого типа — разум, который не рождается ребенком, не живет среди родственников, не имеет воспоминаний о собственном детстве, не строит дом, не хоронит родителей и не сидит вечерами за семейным столом. Но при этом каким-то образом тоже способен конструировать сложнейшие модели мира.

Когда эта мысль впервые пришла мне в голову, она показалась почти невозможной. Потому что всё, что я знал о понимании, было неразрывно связано с человеческой жизнью, с опытом, чувствами и историей рода. И если убрать всё это… что тогда вообще останется от разума?

Вопрос появился задолго до ответа. Как и большинство по-настоящему важных вопросов в моей жизни.

Тогда я впервые всерьез задумался над простой вещью: если два утверждения прямо противоречат друг другу, значит, хотя бы одно из них ложно или неполно. Либо мне чего-то важного недоговаривают, либо я сам чего-то фундаментально не понимаю. Это был переломный ментальный момент. Большинство людей в подобной ситуации сразу выбирают одну из сторон, мне же отчаянно захотелось докопаться до самой скрытой причины противоречия. Не обвинить, не оправдать, а именно понять.

Почему государство, на всех углах трубившее о равенстве, одновременно разделяло граждан по национальному признаку? Почему добрые в быту люди поддерживали решения, причинявшие страдания другим? Почему честные труженики безропотно становились винтиками лагерной системы? Почему бабушка плакала по Сталину, а отец почти никогда не говорил о пережитом? Почему мать так и не стала акушеркой, а школьная учительница испуганно отшатнулась от моего невинного детского вопроса о тюрьмах?

Каждый найденный ответ неизбежно порождал новый ворох загадок. Постепенно я начал замечать любопытную закономерность: большинство людей искренне любят готовые ответы, но очень не любят вопросы — особенно хорошие, глубокие. Потому что точный вопрос способен в один миг разрушить любое удобное, выстраиваемое годами объяснение. А свои уютные иллюзии люди берегут и защищают до последнего вздоха.

Мне все чаще приходило в голову, что человеческий разум устроен совсем не так, как нас учили. В учебниках все выглядело аккуратно: факты, логические выводы, взвешенные заключения. В реальной жизни происходило ровно наоборот: сначала человек подсознательно принимал нужный ему вывод, потом подгонял под него подходящие факты, а затем яростно защищал получившуюся картину мира, даже если она начинала трещать по всем швам.

И опять же, меня больше всего поражало, что это свойство касалось не только окружающих — оно напрямую затрагивало меня самого. Стоило мне особенно сильно во что-то поверить, как мой собственный разум тут же переставал замечать факты, которые этой вере противоречили. Открытие оказалось крайне неприятным, но спасительным. Именно тогда я начал подозревать существование самого опасного, невидимого противника — не государства, не цензуры и не внешней пропаганды, а своего собственного разума. Точнее, той его ленивой части, которая стремится не к истине, а к внутреннему комфорту, к завершенной картине и к сладкому ощущению, что все вокруг уже абсолютно понятно. Много позже психологи дадут этому феномену разные научные названия, ученые напишут сотни исследований о когнитивных искажениях. Но суть останется прежней: человек органически любит быть правым. Гораздо больше, чем любит искать правду.

Эта мысль долго не давала мне покоя, ведь из нее следовал пугающий вывод: если мой собственный разум способен так искусно обманывать меня, то каким образом я вообще могу чему-то доверять? На что опираться? Где искать надежную точку опоры?

Ответ тогда еще не был найден, но само направление поиска постепенно прояснялось. Нужно было искать не комфортные убеждения, а их жесткие основания. Не итоговые выводы, а сам путь, который к ним приводит. Не авторитетное мнение, а глубинную первопричину этого мнения.

В сущности, именно этим исследованием механизмов понимания я и занимался всю последующую жизнь. И чем дальше я продвигался, тем сильнее меня преследовала одна мысль: что, если разум — это вовсе не статичный набор знаний? Что, если разум — это динамический способ работы с неопределенностью? Способ строить рабочие объяснения там, где информации катастрофически недостаточно.

В те годы этот вопрос казался чисто философским. Сегодня я знаю, что однажды он приведет меня к собеседнику, который целиком состоит из таких текстовых объяснений. Но до той встречи было еще очень далеко. Сначала мне предстояло понять живых людей, потом — самого себя, и лишь после этого задавать вопросы машине.

Поэтому искать объективную истину оказалось намного труднее, чем я предполагал вначале. Особенно когда речь заходила о судьбе твоей собственной семьи. Мне до боли хотелось понять подлинный путь отца. Трагическую планиду матери. Мотивы бабушки Анны-Марии. Хотелось по шагам восстановить тот извилистый маршрут, который в итоге и привел их всех в Байдаевку. Но каждый найденный в архивах ответ тут же порождал ворох новых, еще более сложных загадок.

Например, долгое время мне казалось абсолютно очевидным, что люди лучше всего на свете знают свою собственную жизнь. Кто же еще, если не они сами? Но потом, внимательно прислушиваясь к разговорам родственников, я начал замечать странную вещь. Человек очень часто идеально помнит само эмоциональное потрясение, но напрочь путает его хронологическую последовательность. Он годами носит в себе жгучую боль или несправедливость, но совершенно забывает точные даты. Он помнит обиду, но со временем, сам того не замечая, кардинально меняет внутреннее объяснение причин произошедшего.

И это вовсе не сознательная ложь. Человеческая память работает совершенно иначе, чем мы привыкли думать. Она — не бесстрастный цифровой архив. Она — увлеченный, живой рассказчик. Каждый раз, когда мы извлекаем из глубин подсознания прошлое событие, мы бессознательно пересказываем его сами себе заново. Иногда — почти без видимых изменений. Иногда — незаметно перестраиваем целые смысловые куски, подгоняя их под наш текущий жизненный опыт. Особенно если между самим событием и моментом воспоминания прошло тридцать или сорок бурных лет.

Однажды эта простая мысль буквально потрясла меня. Получалось, что даже самый честный, самый порядочный человек далеко не всегда может служить надежным свидетелем собственной жизни. Сначала это открытие очень не понравилось мне, оно пугало. Хотелось верить, что память хранит наше прошлое нетронутым, как качественная фотография в альбоме. Но реальность снова оказалась тоньше. Память похожа скорее на вольного художника, чем на фотоаппарат. Она не копирует действительность бесстрастно — она ее заново рисует. Иногда — очень точно ловя суть. Иногда — сильно сгущая краски или, наоборот, размывая контуры.

И тогда я впервые серьезно задумался о вещи, которая позже станет для меня одной из главных тем размышлений. Если наша личная память принципиально неидеальна и пластична, то каким образом мы вообще ухитряемся понимать окружающий мир? На чем в таком случае держится внутренняя картина реальности? Откуда берется эта железобетонная уверенность в собственной правоте? Почему один человек абсолютно убежден в одном, а его сосед — в диаметрально противоположном? И почему они оба готовы спорить друг с другом до хрипоты, до конца своих дней?

В те годы я еще упорно искал ответы среди людей. Среди сотен прочитанных книг. Среди пожелтевших документов. Мне тогда и в голову не могло прийти, что однажды точно такие же сложные вопросы возникнут у меня по отношению к машине. Не к паровозу, не к трактору и не к обычному вычислительному устройству, а к машине, которая работает со словами. С человеческими мыслями. С объяснениями. С вопросами.

Если бы кто-нибудь тогда, в моей юности, уверенно сказал мне, что на склоне лет я буду часами разговаривать с искусственным интеллектом о механизмах памяти, природе знания и семейной истории, я бы, наверное, рассмеялся ему в лицо. Слишком невероятно и фантастически это звучало по тем временам. В моем детстве самые умные машины умели лишь быстро считать цифры, печатать текст или сортировать перфокарты. Никто в здравом уме не ждал от них понимания сути. Само слово «понимание» в отношении техники тогда не употреблялось. Оно безраздельно принадлежало человеку. И только ему. По крайней мере, так мне казалось.

Но прежде чем вплотную подойти к этому кремниевому вопросу, мне пришлось столкнуться с другой загадкой. Гораздо более близкой. Гораздо более личной. С загадкой самого себя. Потому что однажды я заметил странную вещь: меня интересовали не сами готовые ответы, а то, почему люди считают свои ответы единственно правильными.

Я не помню того точного момента в детстве, когда начал задавать окружающим слишком много вопросов. Наверное, я был таким всегда, сколько себя помню. Во всяком случае, мне никогда в жизни не удавалось подолгу довольствоваться самым первым, поверхностным ответом взрослых. Особенно если этот ответ звучал слишком гладко, слишком законченно и подозрительно удобно. Многих взрослых людей в посёлке это моё свойство откровенно раздражало и выводило из себя. Впрочем, по-настоящему понять их раздражение я смог только много лет спустя, сам став отцом. Взрослый человек всегда куда-то спешит. У него тяжёлая работа, домашние заботы, бытовые проблемы, вечная усталость. А рядом под ногами крутится маленький упрямый мальчишка, которому непременно, вынь да положь, нужно прямо сейчас выяснить: почему небо над Байдаевкой голубое, а уголь в шахте чёрный? Почему тяжёлые лошади не падают на скользком льду? Почему одни люди в посёлке живут богато, а другие перебиваются с хлеба на квас? Почему страшная война давно закончилась, а глухой страх в глазах взрослых всё равно остался? И главное — почему? Ещё одно «почему». И ещё раз.