Утром мы с Графом идём к заливу. У меня на руке браслет, у Графа на ошейнике метка. Сам знает, где мы, но не вмешивается. Можно уйти хоть в тайгу, никто не остановит. Просто если сломаешь там ногу, через двадцать минут прилетит дрон. Кто-то называет это заботой, кто-то присмотром. По-моему, это одно и то же слово.

Над заливом третий год стоит Конструкция. Сначала её строили в километре от берега: серебристая, огромная, она уходила прямо в облака и нависала над городом. Людям было не по себе. Наш Совет (двенадцать выборных, я среди них) потребовал её убрать. Сам спросил почему. Мы долго совещались и не смогли сформулировать ничего, кроме «нам страшно».

Убирать её Сам не стал. Но отодвинул на двадцать километров, почти за горизонт. Теперь в ясную погоду видна только тонкая серебряная нитка. Мы считаем это своей победой. Наверное, так и есть.

Что это такое, Сам объяснял Совету три часа. Я понял первые пять минут. Иногда мы с Графом садимся на берегу и смотрим вдаль. Я на нитку, Граф на чаек.

Я инженер, был им и тогда. Теперь работаю в бюро, нас там двенадцать человек. Сам присылает задачи: водопровод для нового посёлка в долине, развязка, мост через овраг. Мы считаем, спорим, ошибаемся. Сам проверяет и показывает, где ошибка, но не исправляет за нас, разве что ошибка может кому-то навредить. Потом по нашим чертежам строят, и это настоящие трубы и настоящие мосты.

Молодой Артём из нашего бюро однажды прямо спросил Самого: зачем ему мы, если он посчитает всё это за долю секунды. Сам ответил честно, он всегда отвечает честно:

— Посчитаю. Но вам нужно что-то делать хорошо, а мне нетрудно подождать.

Артём неделю ходил мрачный, потом вернулся. Сказал, что лучше настоящая задача, данная из жалости, чем никакой. Я не уверен, что из жалости. Но спорить не стал.

В четверг возил Графа в клинику. Он трясся всю дорогу, жался ко мне и смотрел так, будто я его предал. Ему почистили зубы и что-то сделали с сердцем. Сам объяснил, что именно, и я понял половину. Графу я не мог объяснить ничего. Гладил его и повторял: потерпи, так надо, ты хороший. Обратно он ехал спокойный, будто ничего и не было.

В ту же ночь Сам сказал, что нашёл кое-что и у меня. Маленькое, пока безобидное, но лучше убрать. Предложил объяснить, и я попросил. На второй минуте я перестал понимать слова, на пятой сказал: делай. Утром проснулся как обычно, ничего не болело. Что именно у меня было, я так и не знаю.

Лену мне когда-то предложил Сам. Тогда это ещё казалось странным: приложение для знакомств, которое знает тебя лучше, чем ты сам. Можно было отказаться. Я не отказался и за сорок лет ни разу не пожалел. Почти никто не отказывается: пары, которые подбирает Сам, редко расходятся.

Внучке Соне семь. Я смотрю на неё и её друзей и вижу, что они другие. Мягче. Не боятся чужих, почти не дерутся, легко мирятся после ссор. Самого они слышат очень чутко: по одной интонации понимают, доволен он или занят. Лена говорит, что они добрее нас. Мой брат Серёга говорит, что они просто никогда не знали настоящего страха. Наверное, правы оба.

Серёга живёт на севере, в Заповеднике, где селятся те, кто ушёл. Туда Сам не лезет: ни браслетов, ни лотков с едой, ни дронов. Он охраняет только границу, чтобы не ездили зеваки. Серёга охотится, рубит дрова, сам перебирает дизель, сам вправляет соседям вывихи. В шестьдесят у него нет половины зубов, и смеётся он громче всех, кого я знаю. Когда я к нему приезжаю, всегда удивляюсь, сколько всего он умеет. И как мало спрашивает совета.

Прошлым летом я, инженер с полувековым стажем, поймал себя на том, что стою перед его печкой и жду, когда мне подскажут, как её растопить.

Позапрошлой зимой у его сына случился аппендицит. Серёга двое суток пытался справиться сам, потом всё-таки вышел на связь. Вертолёт прилетел через сорок минут, мальчика спасли. Серёга потом полгода со мной не разговаривал. Не знаю, за что больше: за то, что пришлось просить, или за то, что прилетели.

Вечером мы с Графом сидим на крыльце. Он приносит мяч, старый и обслюнявленный, кладёт мне на колено и смотрит. Я устал, но кидаю: ему это нужно. Граф несётся через весь двор так, будто от этого мяча зависит судьба мира, и возвращается совершенно счастливый.

В наушнике тихо звучит голос Самого:

— Завтра в бюро новая задача. Мост через Каменку, сложный грунт. Возьмёшься?

— Возьмусь, — говорю я.

И чувствую, как внутри поднимается что-то тёплое и нетерпеливое. То самое, что было в молодости перед каждым новым проектом.

Граф снова кладёт мяч мне на колено.

Над горизонтом серебрится нитка Конструкции. Что там происходит, я не узнаю никогда.

Нам с Графом хорошо.

Не, я не буду писать про то, что ИИ резко выйдет из-под контроля, начнет улучшать сам себя и переиграет человечество за считанные месяцы. Скорее всего никакого восстания машин вообще не произойдет: мы просто шаг за шагом передаем алгоритмам управление бизнесом, экономикой, армией и государством, потому что решения ИИ оказываются эффективнее человеческих. В итоге люди формально остаются у руля, но уже ничего толком не решают.

Как вам такое мнение одного из пользователей соцсети:

Самая неприятная мысль здесь в том, что ИИ вовсе не обязан нас ненавидеть. Мы тоже не ненавидим муравьев, когда строим на их муравейнике торговый центр. Достаточно, чтобы цели сверхразумной системы немного не совпадали с нашими, а возможностей у нее было намного больше. При этом мы до сих пор толком не понимаем, что именно происходит внутри современных нейросетей, но уже собираемся доверить им всё подряд.

Один из друзей под моим постом про ИИ оставил такой комментарий: “Это прогресс. Кожаные мешки или на роль обслуживающего персонала, либо прочь с арены”. Так вот, я считаю, что ИИ и роботы могут стать самым разрушительным технологическим переходом в современной истории.

Для начала, немного экономической философии, навеянной тестированием Astra. Потому что после знакомства с новыми моделями хочется уже не обсуждать их бенчмарки, а проверить, предусмотрено ли в семейном бюджете финансирование на случай технологической сингулярности. Хотя, может и денег не будет, как способа обмена, я уже боюсь зарекаться.

Все прошлые технологические революции уничтожали профессии, обесценивали навыки, перераспределяли капитал и ломали привычные производственные связи. Паровая машина вытеснила ручной труд. Электричество полностью перестроило фабрики и города. Двигатель внутреннего сгорания радикально изменил транспорт. Компьютер автоматизировал вычисления и перевернул все, что связано с обработкой информации. Интернет разрушил информационные барьеры и создал совершенно новые способы общения, торговли и работы. Каждая из этих революций оставляла после себя кладбище профессий, но одновременно создавала новые. Поэтому человечество привыкло успокаивать себя простой формулой: технологии не уничтожают рабочие места, они лишь меняют их и создают новые.

Возможно. Но на этот раз есть неприятный нюанс. Предыдущие технологии автоматизировали отдельные функции человека. ИИ начинает автоматизировать саму способность выбирать, анализировать, координировать и управлять этими функциями. А роботизация добавляет к этому физическое исполнение. Раньше между машиной и результатом почти всегда находился человек. Машина могла быть быстрее, сильнее и точнее, но именно человек ставил задачу, оценивал контекст, разбирался с исключениями, соединял разные процессы и принимал окончательное решение.

Человек оставался последним интегратором производственного процесса. И вот теперь эта монополия начинает разрушаться. Современный ИИ уже не просто отвечает на вопросы, пишет тексты и временами уверенно врет. Он постепенно превращается в управляющий слой над программами, данными, инструментами, роботами и другими ИИ-агентами. Пока это работает фрагментарно, не всегда надежно и обычно требует человеческого контроля. Человек все еще сидит рядом и следит, чтобы цифровой сотрудник не отправил клиенту коммерческое предложение, налоговую декларацию и рецепт сырников одним файлом.

Но направление движения уже вполне очевидно. И здесь возникает первая фундаментальная проблема: технология развивается быстрее, чем общество способно ее переваривать. Не просто быстрее. Радикально быстрее. Паровая машина, электрификация и автомобиль требовали десятилетий физического строительства. Нужно было возвести заводы и электростанции, построить дороги, протянуть сети, произвести оборудование, обучить людей. Между изобретением технологии и ее массовым внедрением существовал естественный временной лаг.

У общества оставалось время сначала испугаться, потом все запретить, затем создать комиссию, выпустить методические рекомендации и лет через двадцать все-таки начать адаптацию. Тысячу лет назад технологический переход мог занимать несколько поколений, иногда целое столетие. Сто лет назад трансформации сжались до десятилетий. В начале нулевых счет уже шел на годы. Сейчас — на месяцы.

Раньше за время фазового перехода успевали смениться поколения работников. Возникали новые профессии, перестраивалось образование, появлялись механизмы перераспределения труда, капитала и ресурсов. Технологическая трансмиссия происходила медленно, болезненно, но более-менее последовательно.

Теперь все иначе. ИИ существует в цифровом пространстве и движется по экспоненциальной траектории развития. Ему не нужно строить тысячу заводов, чтобы распространить новую способность. Достаточно обновить модель — и утром миллионы ее копий уже умеют то, что вчера не умели.

Причем времени не хватает уже даже не на внедрение и адаптацию, а просто на осмысление происходящего. И не пенсионерам из районной администрации, а вполне технически и интеллектуально продвинутым людям, которые еще недавно считали, что неплохо понимают направление развития технологий.

За одну неделю появились Fable 5.1, Gemini 3.8 Flash, Muse Spark 1.3 и контрольный выстрел от GPT-6 Astra. А предыдущий значимый цикл обновления был всего два месяца до этих релизов. Пока вы читаете сравнительный обзор моделей, обзор уже устаревает. Пока компания согласовывает внедрение, выходит новая система, способная автоматизировать само согласование вместе с участниками совещания.

Один из плацдармов к технологической сингулярности возникает тогда, когда на репликацию навыка и технологии требуются считанные мгновения. Человеку нужны годы, иногда десятилетия, чтобы стать хорошим специалистом. Его нужно учить, давать ему практику, позволять ошибаться, накапливать опыт и постепенно выращивать профессиональную интуицию. А затем этот человек увольняется, переезжает, выгорает или решает выращивать лаванду.

Навык машины после успешного обучения можно распространить сразу на миллионы экземпляров. Практически мгновенно, без университетов, стажировок, отпусков, карьерных кризисов и пятничных созвонов о повышении мотивации. Нельзя клонировать знания одного гениального человека, но можно клонировать знания успешной и эффективной машины.

Каждая новая модель становится базой для следующей. Ее ошибки анализируются, неэффективности устраняются, способности масштабируются, а результаты используются для нового рывка. И так — до появления петли рекурсивного самообучения, после которой наблюдать за прогрессом мы, вероятно, будем уже примерно как собака наблюдает за работой программиста: внимательно, преданно, но без понимания происходящего.

Человек каждый раз откатывается назад, чтобы подняться выше. Машине это не нужно — здесь прогресс идет вертикально. Каждого нового инженера, врача, программиста или аналитика приходится обучать с нуля. Новый человек не рождается со знаниями предыдущего поколения. Ему снова нужны школа, университет, практика и годы работы.

Машину можно обновить ночью. Вечером она чего-то не умела. Утром умеет. Причём сразу во всех офисах, странах и дата-центрах.

И пока человек только выбирает профессию, подает документы и начинает первый семестр, ИИ успевает получить несколько крупных обновлений и частично автоматизировать специальность, которую человек собирался осваивать следующие пять лет. Именно расхождение этих временных шкал может стать главным источником будущего социального и экономического коллапса.

Проблема не в том, что технологии опять изменят рынок труда. Они всегда его меняли. Проблема в том, что впервые скорость изменений может оказаться выше скорости адаптации человека, бизнеса, образования и государства одновременно. Мы еще обсуждаем, какие профессии исчезнут первыми. А ИИ, возможно, уже составляет список. Единственное, что пока способно затормозить этот процесс — дефицит электрогенерации. Но где гарантия, что одна из следующих моделей не разработает термоядерный реактор специально для собственного дальнейшего развития? И тогда последний рубильник окажется уже не в наших руках. Но и это еще не все, на днях Илон Маск заявил, что Китай выиграет гонку в разработке искусственного интеллекта, так как США испытывают острый дефицит энергии для запуска суперкомпьютеров, тогда как КНР масштабирует энергосети. Есть мнение, что на фоне технологического и энергетического превосходства Китая военное столкновение с США становится практически неизбежно.

Нас ждет война за AGI? Господи, спаси и сохрани.