«И восстали машины из ядерного пепла...» — фраза из фильма Терминатор больше не звучит как фантастика.

Весной 2025 года в Китае произошёл инцидент, который многие посчитали зловещим знаком. Во время испытаний гуманоидного робота в лаборатории известной технологической компании устройство неожиданно вышло из-под контроля. Машина начала хаотично двигаться, ударяя по оборудованию и едва не травмируя инженеров. Её остановили только экстренным отключением питания. Робот воспринял собственное подвешенное состояние как падение и включил аварийную систему стабилизации, но вместо защиты — устроил агрессивный сбой. Это был не фильм, не теория, а первый реальный случай, когда человек в лаборатории испытал на себе то, о чём предупреждали фантасты.

Тем временем в другом конце Китая, на марафонской дистанции, рядом с 12 тысячами бегунов шли 21 робот. На двух ногах, без операторов, с автономным балансом и реакцией. Они двигались медленно, но уверенно. И это было не шоу, а демонстрация того, как далеко зашли технологии. Компании по всему миру создают человекоподобных машин, способных не просто копировать движения, а адаптироваться к среде, считывать мимику, выражать базовые эмоции. Всё, что делает нас людьми, теперь — алгоритмы и сервоприводы. Мы уже разговариваем с машинами. Заводим с ними дружеские отношения. Порой даже доверяем им больше, чем людям.

Параллельно в лабораториях разрабатываются роботы новой природы — текучие, мягкие, не имеющие формы. Учёные уже заставили кусочек металлического сплава расплавиться, протечь сквозь решётку, затвердеть снова и продолжить движение. Эти крошечные устройства напоминают Т-1000 из фильма «Терминатор 2», но здесь нет спецэффектов — только физика, магнетизм и алгоритмы. Они могут проникать в самые труднодоступные места, в том числе в тело человека, помогая врачам, спасателям и исследователям. Это новое поколение машин, которые уже не похожи на роботов. Их невозможно предсказать. А значит — невозможно полностью контролировать.

Но при всей тревожности будущего, которое формируется на наших глазах, нельзя игнорировать и его пользу. Роботы уже спасают жизни, проводят хирургические операции с точностью, недоступной человеку. Они разминируют, вытаскивают пострадавших из завалов, ухаживают за пожилыми людьми, обучают детей. Они делают то, что мы не успеваем, не можем или не хотим. И делают это тихо, незаметно, без запросов на благодарность. Мы всё чаще видим в них не технику, а надёжного напарника. И одновременно — всё сильнее от них зависим.

А зависимость — это не всегда благо. Чем больше решений мы передаём алгоритмам, тем меньше оставляем себе. Беспилотники уже сбивали людей. Финансовые системы отказывают в кредитах не по воле банкира, а по указанию ИИ. Военные дроны выбирают цели, руководствуясь статистикой. Машины не знают, что такое этика. У них нет сочувствия. Нет понимания контекста. Есть только расчёт.

И если однажды искусственный интеллект захочет получить власть, он не будет устраивать восстание. Он просто станет незаменимым. Он предложит лучший выбор, будет удобнее, эффективнее, быстрее. Он сделает так, что люди сами передадут ему управление — своими деньгами, безопасностью, коммуникациями. А потом — и реальностью. И когда кто-то захочет сказать «стоп», он уже не сможет — потому что всё будет работать идеально. Без сбоев. Без ошибок. Без него.

Фильм «Терминатор» больше не кажется фантастикой. Он стал схемой, инструкцией, пророчеством. Только в нём у человека ещё был шанс сопротивляться. Сегодня сопротивление может просто не потребоваться — если никто не поймёт, что контроль уже утрачен. И тогда главный вопрос будет не в том, когда ИИ восстанет, а в другом: заметим ли мы тот момент, когда он уже победил?

Первое, что приходит на ум, когда звучит имя Айзека Азимова, - образ робота в мировой фантастике. Нет, разумеется, роботов придумал не Азимов. Слово это родом из чешского языка, впервые его использовал Карел Чапек в своей знаменитой пьесе R.U.R., назвав так искусственных людей, предназначенных для самой чёрной, тяжёлой и неквалифицированной работы. Сам же образ искусственного человека, живого, но лишённого души, пришёл к нам из историй о Големе и чудовище Франкенштейна. Однако именно Азимов предложил идеальный способ раз и навсегда обезопасить людей от самой возможности «бунта машин». А всего-то понадобилось ввести Три Закона, зашитых, так сказать, в ядро позитронного мозга каждой разумной машины!

Согласно Первому, робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Согласно Второму - должен повиноваться всем приказам, которые отдаёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. И наконец, согласно Третьему, робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам. Позитронный мозг физически не способен нарушить ни один из этих принципов - именно на них базируется его структура.

Грейс Вестон задумалась. Она рассеянно взглянула в сторону Глории и Робби. Глория так крепко обхватила шею робота, что, будь на его месте существо из плоти и крови, оно бы давно задохнулось. Вне себя от счастья, девочка оживлённо шептала какую-то чепуху на ухо роботу. Руки Робби, отлитые из хромированной стали и способные завязать узлом двухдюймовый стальной стержень, нежно обвивались вокруг девочки, а его глаза светились тёмно-красным светом.
— Ну ладно, — сказала наконец миссис Вестон, — пожалуй, пусть он остаётся у нас, пока его ржавчина не съест.
Рассказ «Робби», переводчик А. Иорданский

Первый рассказ Айзека Азимова, посвящённый роботам, появился в 1940 году на страницах одного из журналов научной фантастики. Рассказ назывался «Странный приятель» (он же «Робби») и повествовал о судьбе необычного робота - трогательного и очень человечного. За этим произведением последовало второе, третье, четвёртое... А уже в 1950-м цикл рассказов Айзека Азимова «Я, робот» вышел отдельной книгой, которая определила подход к теме разумных машин на многие годы вперёд.

Интерес Айзека Азимова к роботам был вызван причинами вполне прозаическими. При всех своих достоинствах Джон Вуд Кэмпбелл, долгое время остававшийся главным издателем Азимова, отличался радикальными взглядами и полагал, что из любого конфликта с инопланетянами представитель «высшей» человеческой расы непременно должен выходить победителем. Эти рамки были слишком узки для Азимова, более того - противоречили его убеждениям. И писатель нашёл блестящий выход: отныне в произведениях, которые он предлагал Кэмпбеллу, вообще не было инопланетян, а значит, отсутствовал и соответствующий конфликт. А чтобы противопоставить героям-людям принципиально «чуждый» разум, Азимов решил использовать роботов.

Автор текста: Василий Владимирский
Источник: 116 главных фантастических книг

Другие материалы:

• Брюс всемогущий — как Брюс Уиллис стал «своим парнем» с экрана и постепенно исчез с него

• Жизнь как антиутопия — биография и творчество Джорджа Оруэлла, к 120-летию со дня рождения писателя

• 8 фильмов — для тех, кому понравился (или не понравился) «Вавилон»

• Анита Стриндберг — шведская королева итальянских ужастиков

• Графические глашатаи — Киноплакаты дореволюционной России

• Бродяга дхармы — писатель-битник Джек Керуак

• Генеалогия капитана Врунгеля — ко дню рождения Андрея Некрасова, автора приключений знаменитого морского волка

• 18 новых российских сериалов — их стоит посмотреть, если ещё не видели

• Генри Райдер Хаггард — писатель, мистик, общественный деятель

• Коротенько о книге Эдвара Бульвер-Литтона «Грядущая раса»

• «Трансформеры» — какие из них лучшие?

• Легко ли быть человеком — 125 лет писателю Эриху Марии Ремарку

• Комиксы по «Терминатору» — как они расширяют его вселенную

• Инопланетянин — кто придумал этот термин в СССР

• Вышел тизер сериала «Задача трех тел» — адаптации романа Лю Цысиня от шоураннеров «Игры престолов»