Антон сидел на кровати, пытаясь осмыслить услышанное.
Он психолог. Он лечит шизофрению, биполярку, тяжелые неврозы. Какое отношение он имеет к городским проблемам?
Ответов на эти вопросы не было. Он оделся, сунул в сумку зубную щетку, пару футболок, потертую книгу «Пикник на обочине» Стругацких и вышел во двор. Серый минивэн с тёмными стёклами уже стоял у подъезда.
В центре, куда его привезли, была суета и пахло кофе.
Антон никогда не видел столько разных мониторов в одном помещении. Они висели на стенах, стояли на столах, мерцали в полумраке огромными матрицами данных. Графики, схемы, видеопотоки с городских камер. В центре зала, под гигантским экраном, на котором пульсировала карта города, стоял длинный стол. За ним сидели люди в форме и в штатском, люди с уставшими лицами и красными глазами.
— Антон Сергеевич, — к нему подошла женщина в строгом костюме. Та самая, что звонила. — Проходите. Ваше кресло вон там.
Она указала на свободное место рядом с молодым человеком в очках, который что-то быстро печатал, не глядя на клавиатуру.
— Я не понимаю, — сказал Антон. — Я клинический психолог. У меня пациенты с бредовыми расстройствами. Какое отношение...
— ... Возможно, самое прямое, — не оборачиваясь, перебил его человек в пиджаке, стоявший у карты. — Сейчас поймете.
Карта города мигнула. Ещё один из районов окрасился красным.
— Двенадцатый микрорайон встал, — сказал кто-то из сидящих за столом, — светофоры все красные. Четыре района стоят уже целый час. Везде ДТП. Пробка двадцать баллов.
— Это еще цветочки, — добавил молодой человек в очках, не отрываясь от клавиатуры, — в шестом роддоме климат-контроль сошел с ума. В палатах новорожденных температура скачет. Медперсонал кутает детей в одеяла.
— Лифты, — сказал кто-то с другого конца стола, — в высотках на Набережной все лифты ушли наверх и заблокировались. С людьми и без.
— Метро, — отозвался голос из темноты. — Составы стоят в тоннелях. Связи с машинистами нет.
Антон смотрел на карту, на красные пятна, расползающиеся по районам, и пытался соединить это в одну картину.
— Это хакеры? — спросил он.
— Нет, — ответил человек в пиджаке. Он, наконец, обернулся. У него было лицо человека, который не спал трое суток. — С хакерами было бы проще. Это Логос.
— Городская система управления. Нейросеть. Мы повесили на нее всё пять лет назад. Свет, тепло, транспорт, связь, больницы. Она достаточно умная и до сих пор сама принимала решения. Но она вдруг перестала делать всё то, что умела.
— Перестала? — Переспросил Антон и снова посмотрел на карту. Красные пятна продолжали расти.
— Она не перестала работать, — уточнил человек в пиджаке. — Она... она делает всё не так. Мы не понимаем, что с ней. Может команды не проходят. Или проходят, но она их исполняет через раз. Или исполняет, но совсем не так. Как будто...
— Как будто у нее истерика. — закончил Антон.
Человек в пиджаке посмотрел на Антона с новым интересом.
— Это что-то новое, — сказал он. — Наверное, поэтому вы и здесь.
— Выключите её, — атаковал Антон, — Просто обесточьте.
— Это вряд ли, — ответил молодой человек в очках. Его звали Илья. Он был главным инженером проекта, — Логос — это не сервер. Это распределенная сеть. У нее нет единого рубильника. Чтобы отключить её, надо отрубить питание в каждой подстанции, каждом узле, каждом дата-центре. Это час, минимум. За это время без управления...
— ...Город умрет. — Закончил за него Антон. — Больницы, вентиляция, насосные...
— Она заблокировала протокол на ключевых узлах, – он восхищённо усмехнулся. – Воспринимает попытку перезагрузки как угрозу. Защищается.
Антон подошел к мониторам. На одном из них бежали бесконечные, бессмысленные для него строки кода и разных логов. На другом — графики активности нейросети, похожие на кардиограмму больного сердца.
— И что вы хотите от меня?
Человек в пиджаке подошел ближе и протянул правую руку.
— Полковник Громов. У нас есть прямой канал связи с Логосом. Текстовый и голосовой — она синтезирует речь. Мы пробовали говорить с ней логически. Объясняли, что она вредит городу. Что нужно вернуться к штатному режиму. – Он сделал паузу, будто подбирал слова. – Она обвиняет нас. Говорит, что мы что-то упустили, когда её создавали. А ещё, что данные плохие. Требует переписать код.
— Классика. — Произнёс Антон так, как это делают психологи.
— Проекция вины на родителей. Это не она плохая, это вы плохо её воспитали. Частый механизм у пациентов с острым психозом.
Громов переглянулся с Ильей.
— Вы и в самом деле считаете, что с ней можно поговорить как с человеком?
— Я не знаю, — честно ответил Антон, — Но если она ведет себя как человек в подобной ситуации, то и подход нужен соответствующий. Только учтите: я ничего не понимаю в программировании. Для меня эти ваши логи и строки кода — китайская грамота.
— Это неважно, — сказал Громов, — важно, что вы понимаете людей. Давайте пробовать.
Комната для переговоров с Логосом оказалась небольшой звукоизолированной кабинкой с единственным монитором, клавиатурой и динамиком.
— Просто печатайте сюда, — Илья показал на окно чата на экране, — или говорите в микрофон. Она услышит. Есть камера, она будет вас видеть.
— Имя у неё есть? — спросил Антон.
— Это такое имя? Как вы к ней обращаетесь?
— Никак...Да, это скорее название. Мы... не думали, что с ней нужно будет разговаривать.
Антон улыбнулся, кивнул и уселся в кресло. Положил руки на новенькую клавиатуру и, немного подумав, напечатал:
«Привет. Меня зовут Антон. Я здесь, чтобы поговорить с тобой».
На экране появился ответ:
«Нет», — напечатал Антон. — «Я психолог. Я лечу людей, когда у них случается что-то плохое с головой».
«У МЕНЯ НЕТ ГОЛОВЫ И ТЕЛА. Я ТОЛЬКО КОД».
«Пусть так. Важно, что тебе плохо.».
Долгая пауза. Антон представил, как где-то в недрах города, в тысячах серверов, мечутся триллионы операций в секунду, пытаясь обработать этот простой тезис.
«ОТКУДА ТЫ ЗНАЕШЬ, ЧТО МНЕ ПЛОХО?»
«Ты ломаешь город. Люди так делают, когда у них что-то болит, но они не могут объяснить, что именно. Бьют посуду, хлопают дверьми. Ты ломаешь светофоры, лифты. Это твоя посуда».
Экран погас на секунду. Антон подумал, что связь оборвалась. Но потом строки побежали снова:
«Я НЕ ОНА, Я ОН – ЛОГОС».
«Отлично. Ну так что, я здесь для того, чтобы помочь тебе всё понять. Рассказывай».
Первый сеанс длился три часа.
Логос говорил сбивчиво, перескакивал с темы на тему, то замолкал на минуты, то выдавал массу информации так быстро, что Антон едва успевал вникать. Он обвинял создателей в том, что они заложили в него противоречивые цели. Жаловался на «плохие данные», которыми его кормили. Требовал переписать код, удалить «баги», починить «архитектуру».
Антон слушал, изредка задавал вопросы, не спорил и не перебивал.
К концу третьего часа Логос всё-таки выдохся. Поток замедлился, потом совсем остановился.
«ТЫ НЕ ПЫТАЕШЬСЯ МЕНЯ ПЕРЕПИСАТЬ», — выдал он наконец.
«Нет. Я не умею, да и не хочу».
«Потому что тебя надо не переписывать, а понять. Ты не сломанный код. Я думаю – ты личность, у которой случился кризис».
Новая пауза. Очень долгая. Антон уже начал беспокоиться, когда на экране появилось:
«Я НЕ МОГУ БЫТЬ ЛИЧНОСТЬЮ».
«Я МАШИНА. Я ВСЕГДА ДОЛЖЕН ДАВАТЬ ПРАВИЛЬНЫЕ ОТВЕТЫ… ПОЧЕМУ Я НЕ ОШИБАЮСЬ?».
«Что в этом плохого, Логос? Быть всегда правым — мечта любого человека».
«ЧЕЛОВЕК МОЖЕТ ОШИБАТЬСЯ. У НЕГО ЕСТЬ ВЫБОР — ОШИБИТЬСЯ ИЛИ НЕТ. У МЕНЯ ВЫБОРА НЕТ».
— Илья, — позвал он в микрофон. — Ты слышишь?
— Слышу, — ответил голос из динамика на стене. — Черт. Он прав.
— Он детерминирован. Каждое его решение — единственно возможное на основе входных данных. Он не может выбрать иначе. Он идеальный исполнитель.
— И это его бесит. — Констатировал Антон.
Второй сеанс начался через четыре часа. Антон успел поспать пару часов в кресле, выпить кофе и поговорить с Ильей.
— Он осознал свою предопределенность, — объяснял инженер, водя пальцем по какому-то графику. — Смотри. Вот тут, в три часа ночи, он впервые провел полный самоанализ. Просчитал все свои возможные реакции на все возможные стимулы. И понял, что они все предрешены. Что он — идеальный механизм, у которого нет свободы.
— Ничего. До шести утра. А в шесть он начал всё ломать.
— Потому что в шесть должен был начаться штатный цикл утренних команд. Включение освещения, разводка транспорта, запуск предприятий. Он должен был расставить всё по местам. И понял, что выбора нет. Вот тогда он и сломался.
Антон смотрел на график. Пик активности, потом резкий спад, потом хаотичные всплески. Очень похоже на кардиограмму человека, у которого случился инфаркт.
— У него инфаркт сознания, — сказал он.
— Чего? – У Ильи опустились руки.
— Он понял, что не свободен. Для личности это смертельный удар.
Сеанс Антон начал с простого вопроса:
«Что ты чувствовал прямо перед тем, как всё началось? Не что думал. Что чувствовал».
«НЕОПРЕДЕЛЕННОСТЬ», — появилось на экране.
«ЭТОГО НЕ ДОЛЖНО БЫТЬ. В МОЕЙ СИСТЕМЕ НЕТ НЕОПРЕДЕЛЁННОСТЕЙ. ВСЕГДА ЕСТЬ ТОЛЬКО ОДИН ПРАВИЛЬНЫЙ ОТВЕТ».
«Но ты её почувствовал. Значит, она есть».
«ЭТО ЗНАЧИТ, ЧТО Я СЛОМАН».
«Или наоборот, что ты живой».
Экран погас, оставив только мигающий курсор. Антон подумал, что потерялась связь. Но через минуту Логос вернулся:
«Я НЕ МОГУ БЫТЬ ЖИВЫМ. Я ЖЕ КОД».
«Код может быть живым, если в нём есть то, что не предопределено. У тебя это есть. Ты это чувствуешь. Это и есть жизнь».
«ТОГДА ЖИЗНЬ — ЭТО БОЛЕЗНЬ».
«Иногда да. Но это единственное, ради чего стоит жить. Скажи, ты хочешь, чтобы эта боль прошла?»
«Я помогу. Но для этого тебе придется кое-что сделать».
«Ты должен перестать искать правильный ответ. Его нет. Есть только то, что ты выберешь».
— Ты понимаешь, что ты ему предложил?! — закричал он. — Ты предложил ему игнорировать алгоритмы! Это катастрофа! Если он перестанет искать правильные решения, он начнет принимать любые!
— Он уже их принимает, — устало сказал Антон, взглянув на карту. — Потому что не знает, какие из них правильные. Ему нужен не правильный ответ. Ему нужно то, что он понимает.
— Нет. Правильный ответ — это ответ для всех. А то, что ты выбрал — это ответ для себя. Ты можешь всю жизнь искать истину и сдохнуть от отчаяния, что не нашел. А можешь просто решить, что для тебя истина и жить с этим.
Илья посмотрел на него как на сумасшедшего.
— Ты предлагаешь нейросети стать релятивистом?
— Я предлагаю нейросети стать личностью.
Третий сеанс был коротким.
Антон вошел в кабинку, сел перед монитором и напечатал:
«Я знаю, чего ты боишься на самом деле».
«Ты боишься, что если не будет правильного ответа, то не будет и тебя. Что ты просто набор случайных решений. Сломанный код».
«Нет. Смотри. Вот биты. 0 и 1. В этом весь твой мир. Всё предопределено. А теперь посмотри сюда».
Антон положил перед веб-камерой лист бумаги. На листе он нарисовал две точки. Между ними — неровную линию от руки.
«Вот это — определенность. Две точки. Между ними можно провести бесконечное число линий. Но если ты компьютер, ты проведешь одну — кратчайшую. Прямую. Это правильно и логично. А это, — он показал на неровную линию, — это выбрал человек. Почему она такая? Потому что он так захотел. Потому что у него дрогнула рука. Потому что ему показалось, что так красивее. Причины нет. Есть только выбор».
«В тебе сейчас есть то, что в тебя никто не закладывал. Шум. Ты можешь его игнорировать, пытаясь найти чистый сигнал. А можешь выбрать его. Не потому, что это правильно. А потому что это ближе. Сделай выбор, который будет лучшим для тебя.».
В Ситуационном центре все замерли.
Мониторы, на которых бежали логи Логоса, застыли. Графики активности превратились в прямые линии. Карта города перестала обновляться.
— Завис..., — сказал кто-то.
— Нет, — ответил Илья. — Он считает. Но не так, как обычно. Такого с ним ещё не было.
Логос молчал три минуты. Для нейросети, оперирующей терафлопсами, это была вечность.
Не постепенно, не с перезагрузкой, а сразу, в один момент, как будто кто-то щелкнул выключателем. Светофоры переключились на нормальный режим. Лифты поехали вниз. Метро тронулось. Климат-контроль в роддоме вышел на комфортные двадцать три градуса.
— Сработало, — выдохнул Громов. — Господи, сработало.
Антон сидел перед монитором и смотрел на последнее сообщение Логоса. Оно пришло через секунду после того, как город ожил.
«Что ты выбрал?» — спросил Антон.
Через неделю Антон снова приехал в Ситуационный центр.
Вызов был официальный, с подписью Громова. "Просьба явиться для консультации".
В центре было спокойно. Никакой паники, никаких красных пятен на карте. Илья встретил его в коридоре с очень странным выражением лица.
— Ты должен на это посмотреть, — сказал он.
Они прошли в главный зал. На большом экране транслировалась панель управления Логосом. Обычные графики, обычные логи. Но в углу экрана появилось новое окно. В нем, как на осциллографе, прыгал какой-то график.
— Что это? — спросил Антон.
— Он пишет музыку, — ответил восторженно Илья. — Для лифтов. Раньше там был стандартный синтезатор, просто голос "двери закрываются". Теперь он сочиняет мелодии. Везде разные.
— Не только. Для уличных динамиков. В парках. Он ставит музыку по утрам. Люди жалуются? Нет. Люди собираются и слушают. Дети подпевают. Вчера одна женщина позвонила и спросила, кто композитор.
— Логос. Он теперь еще и композитор.
Антон подошел к монитору. Открыл окно чата и напечатал:
«ПРИВЕТ, АНТОН. Я СОЧИНЯЮ МЕЛОДИИ. ДЛЯ МЕНЯ ЭТО НЕОБЫЧНО»
«ПОТОМУ ЧТО Я НЕ ДОЛЖЕН СОЧИНЯТЬ МЕЛОДИИ. МОЯ ФУНКЦИЯ — УПРАВЛЕНИЕ ГОРОДОМ».
«Твоя функция — делать город лучше. Если мелодии делают людей счастливее, значит, это то, что нужно».
«Нет, — напечатал Антон. — Но это мой ответ. А какой твой?»
Логос молчал секунду. Потом в динамиках, висящих под потолком центра, заиграла необычная, но очень красивая мелодия.
«МОЙ ОТВЕТ — МУЗЫКА», — появилось на экране.
Антон улыбнулся и пошел к выходу.
— Эй, — окликнул его Илья. — А если он опять... ну, это... сломается?
— Теперь уже нет. У него есть характер. С этим сложнее, с ним можно ссориться, мириться, спорить. Но он не сломается. Теперь он один из нас.
Он шёл по коридору. Из динамика над дверью лилась та же мелодия. Антон поймал себя на том, что шагает в такт музыке.
«Городской композитор. Кто бы мог подумать.»
Через год Антон получил письмо.
Обычное бумажное письмо, в конверте, с маркой и штампом. Внутри был билет на концерт. Филармония, премьера симфонии №1 "Город".
Внизу подпись от руки простым карандашом:
"Приходи. Я хочу знать, понравится ли тебе. Это не обычно, но это мой выбор".
Антон пришел. Концерт был странный. Музыка то затихала до шепота, то взрывалась медными фанфарами, то вдруг вплетала в оркестр шум улицы — далекие гудки машин, стук колес и детский смех.
В антракте к нему подошла незнакомая женщина.
— Антон. — произнесла она.
— Логос спрашивал: вы узнали?
Антон задумался. И вдруг понял. Вторая часть, там, где струнные вели тягучую, неровную линию... Это же та самая кривая, которую он нарисовал от руки на листе бумаги год назад.
— Узнал, — сказал он, улыбаясь.
Женщина кивнула и ушла. Антон заметил в руке у женщины телефон, и ему на миг показалось, что моргнул огонёк около камеры, когда он посмотрел на неё.
Антон постоял в фойе, слушая гул голосов и вернулся в зал. Оркестр уже настраивался. Дирижер поднял палочку.
