САМРО. Первое занятие
Я всегда говорю, что пишу фантастику. Это удобно. Когда рассказываешь правду слишком рано, люди начинают нервничать, просить ссылки, требовать доказательств и подозревать тебя в участии в секретных программах или в постоянном посещении психиатрических клиник. А когда говоришь: – Это роман, – все расслабляются. Поэтому пусть будет роман.
Итак.
Год 2039-й. Военное училище имени маршала Рокоссовского, новый корпус прикладной робототактики. В расписании у курсантов второго курса впервые появилась странная дисциплина: САМРО – Самозащита от роботов без оружия.
Под расписанием кто-то карандашом дописал: «То есть когда потерял бластер, гранаты кончились, а робот всё ещё не понял, что ты хороший человек».
1. Аудитория нулевой дистанции
Курсантов построили в спортивном зале нового типа. Это был не совсем спортзал. Пол был мягкий, но под ним были датчики. Стены были белые, но при необходимости превращались в экраны. Потолок молчал, но всем казалось, что он тоже может удивить.
Курсанты стояли в две шеренги и смотрели на учебную площадку. На площадке находился робот. На спине была надпись «Гуманоидная платформа УГП-12 Вежливый». Почему УГП и почему Вежливый, никто не знал. Рост – два метра десять. Вес – около ста восьмидесяти килограммов. Корпус – бело-серый, гладкий, с чёрными суставными кольцами. Голова – без лица, только широкая панель.
На груди робота светилась надпись:
УЧЕБНЫЙ РЕЖИМ. НЕ ПАНИКОВАТЬ
Курсант Пашкин прочитал и сказал шёпотом:
– Вот когда железная штука весом как рояль просит не паниковать, лично я начинаю паниковать очень сильно.
В этот момент двери зала открылись. Вошёл инструктор. Невысокий мужчина лет пятидесяти пяти. Седой, сухой, в простой чёрной форме без знаков различия. На груди у него была нашивка:
Он остановился перед строем.
– Товарищи курсанты, поздравляю. Сегодня у вас первое занятие по САМРО.
Пауза. Полковник сложил руки за спину и оглядел строй.
– Для тех, кто не выучил матчасть: САМРО – это не боевое искусство в классическом смысле. Это не карате. Не самбо. Не айкидо. Не «я в детстве два года ходил на бокс, сейчас покажу терминатору». САМРО – это дисциплина выживания при нулевой дистанции с гуманоидной машиной.
Курсант Орлов поднял руку.
– Товарищ полковник, разрешите вопрос?
– Разрешаю.
– А если робот гражданский? Ну, домашний помощник. Там же ограничения безопасности.
Полковник посмотрел на него с почти отеческой жалостью.
– Курсант Орлов, если домашний помощник решил вас задержать, потому что вы не оплатили подписку на холодильник, он всё равно весит сто сорок килограммов и не знает усталости. Его ограничения безопасности заканчиваются там, где начинается ваше неправильное поведение.
В строю стало тише. Робот Вежливый повернул голову.
– Я не задерживаю пользователей за неоплаченную подписку, – сообщил он приятным голосом. – Я лишь ограничиваю доступ к охлаждённым продуктам до урегулирования финансового статуса.
Пашкин прошептал:
– Ага, видите? Они уже оправдываются.
Полковник щёлкнул пальцами. На стене вспыхнула надпись:
ПЕРВОЕ ПРАВИЛО САМРО: НЕ ДЕРИСЬ С РОБОТОМ
Курсанты переглянулись.
– Товарищ полковник, – осторожно спросила Мишина, – а дисциплина точно называется самозащита от роботов?
– Точно.
– Но первое правило – не драться?
– Именно. Наконец-то кто-то начал думать. Запомните: человек, который дерётся с роботом, уже проиграл концептуально. С роботом не дерутся. Робота надо вынуждать ошибаться.
На стене появилась вторая надпись:
НЕ БЕЙ МЕТАЛЛ. ЛОМАЙ АЛГОРИТМ
Полковник обернулся к роботу.
– Вежливый, демонстрационный протокол. Захват стандартный, скорость двадцать процентов.
– Подтверждаю, – сказал робот.
Он шагнул вперёд.
Очень спокойно.
Очень ровно.
И очень неприятно. Пол слегка прогнулся от его тяжести.
Полковник стоял расслабленно, будто стоял на автобусной остановке. Когда робот протянул руку, инструктор сделал маленькое движение в сторону. Не прыжок, не перекат, не красивый кульбит. Просто его вдруг не оказалось там, где машина решила его взять. Рука робота прошла мимо. На экране вспыхнула схема: синие линии траектории, красная зона захвата, маленькое жёлтое пятно с подписью:
ОШИБКА ПРОГНОЗА: 0,38 СЕК
Полковник оказался сбоку от робота.
– Видели?
– Нет, – честно ответил Пашкин.
– Хорошо. Значит, было правильно.
2. Робот не злится. И это обидно
Полковник прошёл вдоль строя.
– Самая большая ошибка новичка – думать, что робот похож на человека. Нет. У человека есть боль, страх, злость, самолюбие, печень, тёща, кредиты. У робота этого нет.
Робот Вежливый поднял палец.
– У меня имеется модуль имитации социальной эмпатии.
– Модуль не считается, – отрезал полковник. – Особенно после обновления 13.2.
Робот помолчал. Затем сказал: – Обновление 13.2 было стабильным.
– Да? Оно поздравило полк с Днём матери в День воздушно-космических сил.
– Это была попытка укрепить эмоциональную связь.
Курсанты заулыбались. Полковник тоже, но очень коротко. Как человек, который разрешил себе отпуск на полторы секунды.
– Итак. Робота нельзя испугать. Нельзя вывести из себя. Нельзя ударить по корпусу и ждать, что он скажет: «Ой». Если вы ударите робота кулаком, результат будет простой: робот узнает, что у вас есть кулак, а медики потом увидят, что у вас он был.
На стене появились три силуэта робота.
Первый – красный: корпус.
Второй – жёлтый: суставы.
Третий – синий: сенсоры.
– Корпус – бесполезно. Не тратьте время. Суставы – механика. С ними можно работать, но с умом, а не героизмом. Сенсоры – его картина мира. Если картина мира испорчена, даже очень умная железка начинает вести себя как лейтенант на первом совещании.
Пашкин поднял руку.
– Товарищ полковник, а если лейтенант очень умный?
Полковник посмотрел на него.
– Тогда он молчит на первом совещании.
Мишина тихо сказала:
– Записывай, Пашкин. Это про тебя.
3. Первый доброволец
– Нужен доброволец, – сказал полковник.
Как известно, в армии доброволец – это тот, кто не успел сделать шаг назад вместе со всеми.
Таким добровольцем стал курсант Орлов. Он вышел на площадку с видом человека, который уже мысленно простился с родственниками, но ещё надеется, что родственники не узнают подробностей.
– Задача простая, – сказал полковник. – Вежливый попытается вас удержать. Вы должны не победить робота. Не бросить его через бедро. Не доказать превосходство органической жизни. Вы должны не дать ему получить полный захват три секунды.
– Всего три? – обрадовался Орлов.
Полковник кивнул.
– Да. Первые три секунды – это когда вы ещё курсант. После пятой вы уже сами учебное пособие.
Робот повернулся к Орлову.
– Курсант Орлов, прошу сохранять спокойствие. Я работаю в мягком режиме.
– Это как стоматолог говорит: «будет немного неприятно», – хихикнул Пашкин.
– Пашкин, – произнёс полковник, не оборачиваясь, – вы следующий.
Робот шагнул к Орлову. Орлов сделал то, что делает почти каждый человек, когда к нему приближается двухметровый механизм: отступил назад по прямой.
– Стоп, – сказал полковник.
Робот замер.
Полковник подошёл к Орлову.
– Вы сейчас подарили машине самый простой вариант. Прямая линия. Постоянная дистанция. Предсказуемая реакция. Робот счастлив.
– Я не испытываю счастья, – уточнил Вежливый.
– Вот видите, курсант, даже счастье у него скучное.
Полковник нарисовал пальцем в воздухе отрезок. Система зала тут же отобразила её светящейся линией.
– Вот его движение. Робот отлично работает вперёд. Он создан, чтобы сокращать дистанцию, фиксировать цель, брать объект и двигаться, экономя батареи. Поэтому ваша жизнь находится не впереди от него и не сзади, куда вы ещё не попали. Ваша жизнь – сбоку. В углу. В срыве его расчёта.
Полковник махнул рукой, очерчивая светящуюся дугу возле робота. – Понятно?
Орлов кивнул.
– Повторим.
Робот снова шагнул.
Орлов на этот раз ушёл под углом. Неловко, слишком широко, почти поскользнулся, но всё-таки рука робота прошла мимо плеча.
На экране мигнуло:
ОШИБКА ЗАХВАТА: 0,21 СЕК
– Жив, – сказал полковник. – Плохо, некрасиво, но жив. В армии это называется «положительная динамика».
4. Мишина и проблема женского интеллекта
Следующей вышла Мишина.
– Готова? – спросил полковник.
– Так точно.
Вежливый двинулся к ней.
Мишина не стала отступать. Она резко сменила ритм: полшага вперёд, пауза, уход в сторону. Робот на мгновение задержал движение. Не сильно. Но заметно.
На экране вспыхнуло:
ПЕРЕРАСЧЁТ ТРАЕКТОРИИ
Курсанты оживились.
Мишина оказалась сбоку, но не стала делать ничего эффектного. Просто разорвала дистанцию.
Полковник прищурился.
– Кто научил?
– Товарищ полковник, у меня младший брат. Шесть лет. Очень похожий алгоритм: идёт прямо, хватает всё подряд, не признаёт просьб.
Вежливый повернул голову.
– Сравнение с ребёнком некорректно. У меня расширенный поведенческий модуль.
– У брата тоже, – сказала Мишина. – После конфеты.
Полковник впервые улыбнулся по-настоящему.
– Хорошо. Запомните все: Мишина сейчас сделала важную вещь. Она не пыталась соревноваться в скорости. Она сломала ожидание. Робот рассчитывал одно, получил другое, начал пересчёт. Пересчёт – это время. Время – это жизнь.
Пашкин поднял руку.
– Товарищ полковник, а можно просто всё время вести себя странно?
– Можно. Но для этого необязательно поступать в военное училище. Достаточно зайти в свой домовой чат.
5. Пашкин против прогресса
– Пашкин, на площадку.
Пашкин вышел с выражением лица человека, которого назначили представителем человечества без согласования с человечеством.
– Ваша задача та же, – сказал полковник. – Не дать себя удержать.
– Товарищ полковник, разрешите уточнить: моральная победа учитывается?
– Если вы сможете объяснить её роботу в течение трёх секунд.
Вежливый шагнул вперёд.
Пашкин вдруг поднял руки и сказал:
– Стой! Я твой разработчик!
Робот остановился.
Все замерли.
Полковник медленно повернул голову.
– Пашкин…
Робот произнёс:
– Идентификация не подтверждена. Вероятность ложного утверждения – 99,7 процента.
– А 0,3? – быстро спросил Пашкин.
– Зарезервировано на человеческую наглость.
Зал взорвался смехом.
Полковник поднял руку.
– Смех смехом, но Пашкин случайно продемонстрировал древнейший принцип боя с машиной: если не можешь сломать механику – попытайся сломать сценарий. Правда, в реальности это сработает только против гражданской платформы, и то один раз. Потом вас добавят в базу как «склонного к театральным действиям».
– Я готов служить в театральных войсках, – сказал Пашкин.
– Их расформировали после мятежа кафедры пантомимы - сказал полковник без улыбки.
6. Теория падения железного шкафа
Полковник вывел на экран видеозапись. На ней тяжёлый робот шёл по коридору. Человек метнулся вбок, робот повернулся, перенёс вес, затем на мгновение потерял равновесие и опустился на одно колено.
– Что произошло? – спросил полковник.
Орлов сказал:
– Его толкнули?
– Нет.
Мишина:
– Ему сорвали перенос веса?
– Ближе.
Полковник указал на стопу робота.
– Гуманоидная машина постоянно решает задачу равновесия. Она сильная, но не волшебная. У неё есть центр массы, опора, момент инерции, задержка реакции. Если заставить её исправлять положение чаще, чем удобно её системе стабилизации, она начинает беречь себя. Ограничивать скорость. Расширять стойку. Иногда – падать.
Робот Вежливый вставил:
– Падение является недопустимым режимом эксплуатации.
– Вот именно, – сказал полковник. – Для нас падение робота – праздник. Для робота – бухгалтерия повреждений.
На экране появилась фраза:
ЦЕЛЬ САМРО – НЕ УНИЧТОЖИТЬ РОБОТА, А СОЗДАТЬ ОКНО ДЛЯ ВЫХОДА
– Запомните, – продолжил инструктор. – Если робот упал, вы не прыгаете на него сверху с победным криком. Вы уходите. Потому что у многих моделей на земле открывается аварийный режим. Аварийный режим – это когда машина внезапно вспоминает, что её конструкторы не очень любили людей.
Пашкин спросил:
– А если хочется победный крик?
– Кричите на бегу.
7. Инструктор показывает невозможное
Полковник снял куртку, оставшись в чёрной тренировочной рубашке, и вышел на центр площадки.
– Вежливый. Уровень сорок процентов. Захват с удержанием.
– Подтверждаю. Напоминаю: сорок процентов могут вызвать дискомфорт.
– У меня пенсия через два года. Дискомфорт меня уже не пугает.
Робот изменился.
Не внешне.
Но все это почувствовали.
Он стал быстрее. Плавнее. Его движения потеряли учебную вежливость. Теперь это была машина, которая знала, куда ставить ноги, как перекрывать углы, как не давать человеку уйти. Он атаковал.
Полковник исчез с линии движения. Робот мгновенно развернулся. Полковник не отступил, а вошёл ближе – настолько близко, что сенсорная панель робота на миг потеряла удобный обзор. На экране вспыхнули красные и синие линии.
БЛИЖНЯЯ СЛЕПАЯ ЗОНА
ПЕРЕРАСЧЁТ
ОШИБКА БАЛАНСА
Робот попытался взять его второй рукой.
Полковник оказался уже у другого плеча. Короткий толчок, поворот корпуса, шаг – и машина сделала лишнюю коррекцию. Стопа робота скользнула вперед на десять сантиметров.
Всего на десять. Но в зале стало тихо. Потому что все поняли: железный гигант только что ошибся.
Полковник не бил.
Не ломал.
Не бросал через себя.
Он просто всё время был чуть не там. Чуть раньше. Чуть ниже. Чуть сбоку.
Робот сделал резкий поворот, попытался стабилизироваться, но полковник уже вышел из контакта.
На экране загорелось:
ЗАХВАТ НЕ ВЫПОЛНЕН. ВРЕМЯ: 5,8 СЕК
Робот замер.
– Упражнение завершено, – сказал он.
Полковник поправил рукав.
– Видели?
На этот раз никто не сказал «нет».
Пашкин прошептал:
– Ёпь. Я видел, как железо обиделось.
8. Настоящий урок
Полковник снова встал перед строем.
– Сейчас вам кажется, что САМРО – это набор хитрых движений. Это не так. Это не самбо. Движения вторичны. Главное – понять противника.
Он указал на робота.
– Перед вами не злодей. Не зверь. Не человек в железной маске. Перед вами механическая система. У системы есть входные данные, алгоритмы, ограничения, ошибки, задержки, предохранители. Она не ненавидит вас. Она выполняет задачу.
Робот кивнул.
– Верно. Я выполняю задачу.
– А человек, – сказал полковник, – умеет менять условия задачи. В этом наш шанс.
На стене вспыхнуло:
МАШИНА СЧИТАЕТ. ЧЕЛОВЕК МЕНЯЕТ УСЛОВИЕ
Курсанты молчали. Даже Пашкин. Полковник заметил это и поднял брови.
– Пашкин, вы живы?
– Так точно, товарищ полковник. Просто думаю.
– Осторожно. Непривычная нагрузка.
– Я понял, что против робота нельзя быть героем.
– Уже неплохо.
– Надо быть ошибкой.
Полковник посмотрел на него внимательнее.
– Вот теперь совсем неплохо.
Мишина добавила:
– Непредсказуемой ошибкой.
– Ещё лучше, – сказал полковник. – Именно. Боец САМРО – это непредсказуемая ошибка в расчётах машины.
Робот Вежливый повернул голову к курсантам.
– Прошу уточнить: вы намерены становиться ошибками?
Пашкин поклонился:
– Не просто ошибками. Критическими.
Робот помолчал.
– Я передам это разработчикам.
– Не надо, – хором сказали курсанты.
9. Зачёт
В конце занятия каждому курсанту выдали тонкий металлический браслет. На браслете светилась надпись: САМРО-1 / ДОПУСК К НУЛЕВОЙ ДИСТАНЦИИ
Орлов прочитал и вздохнул.
– Звучит так, будто нас официально разрешили бить роботами.
– Нет, – сказала Мишина. – Нас официально предупредили, что роботы будут делать это профессионально.
Пашкин посмотрел на Вежливого.
– Товарищ робот, а у вас есть слабости?
– Да, – ответил робот.
Все повернулись к нему.
– Какие? – спросил Пашкин.
– Я не имею права разглашать конструктивные уязвимости учебной платформы.
– А по дружбе?
– У меня нет модуля дружбы.
Полковник кашлянул.
– Всё, достаточно. На сегодня занятие окончено. Домашнее задание: выучить три правила.
На стене появились строки:
1. Не стой перед роботом.
2. Не бей в корпус.
3. Не пытайся быть сильнее машины. Будь сложнее её прогноза.
Курсанты начали расходиться. У двери Пашкин остановился и оглянулся на робота.
– Вежливый, а если мы всё-таки станем очень хорошими ошибками?
Панель робота мигнула мягким голубым светом.
– Тогда разработчикам придётся обновить меня.
– А если после обновления ты станешь умнее?
– Тогда вам придётся стать ещё страннее.
Пашкин улыбнулся.
– Это мы можем.
Полковник, услышав это, усмехнулся:
– Вот за это я человечество и не списываю со счета.
10. Послесловие автора, который всё это придумал
В официальных отчётах первое занятие по САМРО в училище прошло «в штатном режиме, без травм, с высоким уровнем вовлечённости личного состава».
Это была правда.
Но неполная.
Потому что в тот день курсанты впервые поняли: будущее не будет войной мускулов против металла. Не будет красивой дракой героя с машиной под музыку. Будущее будет другим.
Там, где робот вычисляет траекторию, человек делает паузу, и расчет сбивается.
Там, где машина идёт прямо, человек уходит по дуге.
Там, где алгоритм ждёт стандартной реакции, человек вдруг становится неприлично живым.
И, возможно, именно поэтому люди ещё долго не проиграют машинам окончательно.
Потому что робот силён.
Робот точен.
Робот не устает.
Но человек умеет делать то, чего машина терпеть не может.
Человек умеет нарушать правила – и потом придумывать этому красивое название.
Например:
САМРО
Самозащита от роботов без оружия
А если кто-нибудь спросит, было ли всё это на самом деле, я, конечно, отвечу:
– Нет-нет. Что вы. Просто фантастика.
И улыбнусь так, как улыбаются люди, которые однажды уже видели 2039 год.
