Четвертый параграф. Глава 4. — Четвертый параграф⁠⁠

Четвертый параграф. Глава 1. — Смерть

Четвертый параграф. Глава 2. — Крик

Стальной молчал. Двадцать шестой смотрел на него и ждал любой реакции, сам он не знал, что спросить, он не понимал, что услышал в этом крике Стальной.

— Девять лет. Девять лет работы и все насмарку. Как я мог допустить такую ошибку?

— Какую ошибку Виктор Андреевич — с неподдельным удивлением спросил его двадцать шестой.

Стальной посмотрел на него, потом опять повернулся в сторону стартовых площадок.

— Ошибку в инструкциях. И хуже всего что это была ошибка в аварийных инструкциях! Я ведь сам их загружал, ведь это был не в первый раз, и все же где-то допустил — с сожалением произнес Стальной. Где-то допустил ошибку, где-то не до конца протестировал её и вот он результат. Всего одна небольшая и никому не заметная ошибка в самом важном месте кода и никакой кибернетический интеллект со всеми его возможностями к самопознанию и самообучении ничего не сможет сделать в критической ситуации.

Двадцать шестой не перебивал его и внимательно слушал.

Аварийные инструкции это была часть кибернетического кодекса, в который входило множество правил и сценариев практически на любое событие, в котором необходимо было поступить четко предписанным образом. Аварийными инструкциями был набор сценариев для действий робота любой категории в аварийной ситуации или, когда обстановка вокруг становилась критической для продолжения поставленных задач. Для разных устройств это были разный инструкции, какие-то содержали примитивные сценарии поведения, которые просто зашивались в базовый логический комплекс. Некоторые из них состояли из одного-двух простейших действий, включить аварийный маяк или покинуть опасную зону, другие же состояли из множества разделов и подразделов, включали в себя множество параграфов.

В Андромеду был загружен весь кодекс аварийных. Предполагалось что по мере обучения кибернетического интеллекта он сам будет определять приоритет выполнения того или иного действия и применять к нему соответствующий параграф нужного раздела инструкции. В общем-то так оно и происходило, и Андромеда по мере обучения зачастую предопределяла сценарий своего поведения еще до наступления аварийной ситуации. Да эти ситуации были учебными или как их называл искусственно смоделированными, но от реальных ситуаций они мало чем отличались и случись нечто подобное по-настоящему сценарий поведения интеллекта, примененная инструкция или отдельный её параграф были бы теми же самыми.

Стальной опять повернулся к двадцать шестому.

— Не понимаешь? — с нескрываемым раздражением спросил Стальной глядя на смотревшего на него в замешательстве робота.

— Не понимаю Виктор Андреевич виновато отозвался двадцать шестой.

— «При возникновении ситуации в которой спасение членов экипажа невозможно ни одним из доступных способов, в том числе и при помощи автономных спасательных капсул — громко начал цитировал Стальной — но при этом присутствует возможность спасения результатов научной работы или исследований, все энергетические ресурсы корабля должны быть направленны на спасение последних.»

— «Даже если эти действия сократят продолжительность жизни экипажа» — продолжил двадцать шестой. — Я знаю этот параграф Виктор Андреевич, он четвертый в дополнительном разделе аварийных инструкций. Я хоть и экспериментальный образец, но у меня этот раздел тоже присутствует.

— Вот! Видишь, даже ты его знаешь! И у многих этот дополнительный раздел зашит, но ведь никто его не нарушил? Нет! Ты ведь не нарушил? — Стальной встал и шагая то в одну сторону то в другую принялся вести эмоциональный монолог.

— Но ведь у меня не было подобных ситуаций Виктор Андреевич — попытался оправдываться двадцать шестой.

— Не было! Но у других ведь были? были! И они этот параграф не нарушили. И ты бы не нарушил двадцать шестой! — двадцать шестой попытался еще что-то сказать в свое оправдание — а я тебе говорю, что не нарушил бы! Это закон, канон, основа, базис! — почти кричал Стальной.

— Нет Виктор Андреевич — сказал двадцать шестой

— Что нет? — в недоумении остановился Стальной и непонимающе посмотрел на двадцать шестого

— Я не нарушил его не потому что у меня не было ситуаций, в которых было необходимо применить четвертый параграф Виктор Андреевич. Я не умею этого делать — выдержав паузу сказал двадцать шестой. И никто не умеет этого делать.

— Чего не умеешь? — все еще не понимая, что ему пытается донести своими возражениями двадцать шестой спросил Стальной.

— Не умею нарушать инструкции Виктор Андреевич. И никто не умеет. Двадцать шестой выдержал небольшую паузу и добавил: мы не способны на это. Мы не можем проявить волю, у нас её нет. Нас не научили добавил он через несколько секунд.

— А она нарушила! — как бы пробудившись, с прежним эмоциональным напором продолжал Стальной. — А у нее получилось! А виноват в этом кто? А виноват в этом я! Это я зашивал ей кодекс, это я допустил ошибку, это я не проверил соответствие исходному коду кодекса. А она оказалась способна, благодаря моей ошибке! А её... и тут он запнулся. Подожди-ка обратился он к двадцать шестому в пол голоса, так ты хочешь сказать, что это было воздействие из вне? Взлом и внедрение вредоносного кода, который позволил ей обойти запрет? Двадцать шестой молча смотрел на него. А ведь я об этом совершенно не подумал. Стальной сел рядом с двадцать шестым. Он помолчал и продолжил.

— Но так невозможно. Вернее, внедрить код может быть, каким-то образом и возможно, хотя очень мало вероятно, но этого мало для принятия машиной такого решения, которое пойдет в разрез с любым параграфом аварийной инструкции, а уже тем более с четвертым. Для того что бы выполнить подобное действие кибернетический интеллект должен как минимум быть на уровне свободного самообучения без поддержки человека, на уровне осознания собственных решений и самое главное он должен быть научен. Ты все верно сказал двадцать шестой — научен. И не просто научен, ему должны показать у него должен быть пример, он должен осознать действие без помощи человека иначе он не будет понимать в будущем каким образом применяется это действие и в каких ситуациях, каким последствиям это решение может привести. Вариантов использования, изученного великое множество и интеллект должен самостоятельно осознать базовое событие для того что бы в последствии умело им пользоваться. Кроме того, интеллект должен осознавать, что будет если он последует необходимой инструкции при наличии выбора не делать этого. Значит кто-то её научил, но это абсурд, этого никто не мог сделать. Сразу после окончания обучения Андромеда встала на дежурство. Не было того, кто бы мог её этому научить, этого просто некому было сделать!

— Вы научили Виктор Андреевич — перебил его двадцать шестой.

— Что? — ошарашенно спросил Стальной.

— Это сделали вы. Вы научили и показали тоже вы Виктор Андреевич.

— Ты что несешь? Стальной хотел было обрушить на робота весь свой эмоциональный ком, который у него накопился со времени утреннего происшествия, но видя спокойствие двадцать шестого понял, что этот экспериментальный недоинтеллект что-то знает о самом Стальном, то, что Стальной где-то упустил, не заметил, прошел мимо.

— Когда я её научил этому? Где? — тихо спросил Стальной.

— Четвертый тестовый Виктор Андреевич, восемь лет назад, на Луне 24. Вы сами нарушили четвертый параграф.

Стального окатило холодным потом. Перед глазами всплыли стены коридора на пути к реакторной зоне и яркий свет плазмы облизывающей стены реакторной, и жар, который обжигал горло на вдохе.

— Может быть ты и подробности этой аварии знаешь?

— Не все, только те, которыми поделилась со мной Андромеда.

— Она с тобой делилась подробностями? Каким образом, машины что общаются между собой? — с нескрываемым удивлением спросил Стальной?

— Нет Виктор Андреевич, вернее да, но это не совсем общение, вернее будет сказать это совсем не общение. Мы не умеем делиться эмоциями, у нас их нет. Вернее, почти нет, также как нет и воли. Мы скорее делимся информацией, может быть это и есть наше общение.

— Но ты сказал, что Андромеда поделилась с тобой информацией об этой аварии, как же не общение?

— Да Виктор Андреевич, все правильно. Но это она поделилась со мной, я так не умею. И хотя голос двадцать шестого был электронным с металлическим оттенком по его паузам в разговоре четко слышалось сожаление, когда он рассказывал о том, чего у него нет — но мне было очень интересно её слушать, она всегда рассказывала что-нибудь очень интересное!

— А может быть она тебе что-нибудь сообщила перед сегодняшним происшествием?

— Нет Виктор Андреевич. Сегодня утром она просто молчала. Когда оператор стал посылать запросы, я это тоже слышал. И я тоже отправил ей сигнал.

— Что за сигнал?

— Ну это то, что вы назвали нашим общением. Обычно мы просто посылаем друг другу сигнал, короткие зашифрованные сообщения. обычно это просто сигнал запроса и на него нужно просто отозваться. Наверное, это похоже на то как киты или дельфины общаются между собой. Андромеда на такой сигнал всегда отвечала чем-нибудь интересным, осмысленным если можно, так сказать. Утром она промолчала Виктор Андреевич, как раз перед этим происшествием. А потом мы все услышали крик, с сожалением закончил двадцать шестой.

— Когда ты отправил ей сигнал? Во сколько?

— В 8.00 Виктор Андреевич, и в 10.59.58 все приняли крик. С нескрываемым сожалением произнес двадцать шестой, на сколько ему позволяла конструкция его речевого модулятора.

— То есть, получается... получается, что Андромеда вышла из эфира сознательно, она получается знала, что произойдет и умышленно не выходила на связь — заключил Стальной. То есть, она получается сознательно пошла на нарушение четвертого параграфа! У нее ведь было время, она ведь могла перенаправить всю мощность Соляриса на форсаж и после обхода фотонного облака вывести его на прежний курс, Солярис дошел бы по инерции до места в котором бы его уже перехватила аварийная команда. Что ты думаешь по этому поводу двадцать шестой?

— Я, двадцать шестой запнулся, я, наверное, я ничего не думаю Виктор Андреевич тихо сказал двадцать шестой.

— То есть, продолжал Стальной — из всех возможностей который у нее были что бы спасти хотя бы результаты исследований она не использовала ни одной. Да, экипаж погиб бы в любом случае, но ведь мощности корабля хватило бы для того что бы обойти это облако резко взяв в верх и Андромеда… Я просто уверен в том, что она просчитала этот маршрут обхода за доли секунды! Двадцать шестой молчал и по его молчанию было видно, что он что-то знает, но не говорит. — Что ты на это скажешь двадцать шестой?

— Да могла бы Виктор Андреевич, и возможности были. Согласен — без особых эмоций ответил двадцать шестой.

— Но ведь не сделала? — почти прокричал Стальной.

— Не сделала Виктор Андреевич — так же безэмоционально ответил двадцать шестой.

Оба замолчали. Каждый думал о своем.