SergeyTarasov

Я тут с удивлением узнал, что многие считают Романа Ямпольского паникёром, хайпующим на теме ИИ-апокалипсиса; мало того, у него есть нехилая такая база хейтеров, а в комментариях на Ютубе, где я смотрю с ним подкасты, его периодически поливают говном, не стесняясь обсуждать в том числе внешний вид (вечно непричёсанный Дробышевский ехидно смеётся в сторонке).

Хотя дядька-то он неплохой и крайне неглупый. Ямпольский уже лет этак -цать повсюду кричит про опасность неконтролируемого развития искусственного интеллекта, а от него зачастую отмахиваются, как от городского сумасшедшего. Вернее, отмахивались до недавних пор, когда случился бум нейронок, и вот теперь, спустя какие-то несколько лет, они уже повсюду – чат-ботов теперича интегрируют чуть ли не в каждую микроволновку. Вследствие чего Роман и начал ходить по подкастам, рассказывая там ровно то же самое, о чём и говорил последние десятилетия – только вот для комментаторов на Ютубе почему-то его слова звучат как научная фантастика. Ребят, да какая там фантастика – мы уже давным-давно живём в киберпанке…

Но давайте сначала вкратце о том, чё за Ямпольский такой, а то вдруг вы не в курсе.

Роман Владимирович Ямпольский – это учёный-информатик, имеющий учёную степень доктора философии и известный своими работами по кибербезопасности; также он является основателем и директором Лаборатории кибербезопасности на кафедре компьютерной инженерии и информатики в Инженерной школе Д. Б. Спида Луисвиллского университета; он написал больше ста публикаций, включая кучу книг; более того, он даже придумал новую область исследований под названием интеллектология. Кстати, именно он ещё в 2011-ом году ввёл в обиход такое понятие, как «AI safety».

Как считаете, у Ямпольского достаточно регалий, чтобы относиться с полной серьёзностью к тому, что он говорит? Мне кажется, вполне компетентный товарищ. Давайте теперь послушаем, что же такого страшного он говорит про наше с вами будущее.

В книге «ИИ: Необъяснимый, непредсказуемый, неконтролируемый» Ямпольский рассказывает про Три кита неконтролируемости искусственного интеллекта. Сейчас я раскидаю, шо это за зверь, чтоб вам не пришлось читать целую книжку.

Короче, главная идея Ямпольского – это неспособность человечества контролировать, объяснить и предсказывать действия ИИ. Дальше отдельно о каждом тезисе.

«Чёрный ящик» – даже сегодняшние нейросети настолько сложны, что мы далеко не всегда можем понять, почему на свой запрос получили именно этот ответ. Кстати, по поводу вечно прилетающего в комментарии тезиса про «нейросети всего лишь инструмент» советую почитать моё псто про проблему согласования.

«Эффект бабочки» – поистине умный ИИ (какой-нибудь предполагаемый в будущем AGI) слишком сложен для прогнозов, пускай эти прогнозы и будут составлять лучшие умы человечества. Единственный способ узнать, что он сделает, осознав себя – это включить его и посмотреть. Только вот после нажатия кнопки ВКЛ может быть уже слишком поздно.

«Ассиметрия прогресса» – здесь Ямпольский рассказывает, что мощности ИИ растут экспоненционально, а вот наши знания о нём растут линейно. Кто-то может мне возразить, что ведь ИИ разрабатывают сами люди, но и тут я вас разочарую – нет, ребят, мы уже вошли в ту эру, когда новые нейронки создают, используя старые нейросети. Конечно, делают это всё равно люди, только вот и сами люди теперь не программируют, а вайбкодят. По сути дела нейросети создают новые нейросети (более того, нейросети создают и программное обеспечение, и трахаются с людьми онлайн, и заставляют людей совершать странные поступки, и продают людям товары, и штампуют роботов на заводах в Китае, и вообще чего только не делают – если вы думаете, что современные нейронки ограничены клепанием нейрослопа в Тик-Токе, написанием текста на сайтах или музыкой в Suno, то вы сильно ошибаетесь; масштаб их применения в современном мире настолько разнообразен, что вы бы охуели от того обилия информации, которая накопилась в моей бестолковке). Конечно же, как мне опять справедливо заметят в комментариях, нейросети всего лишь инструмент, но вы не задумывались о том, что инструмент, способный сам позвонить за вас человеку-продавцу, чтобы заказать вам новые кроссовки, уже выглядит немного жутковато? А ведь я описываю всего лишь наше настоящее время, в следующем после этого посте как раз будет видео, как КлаудКод заказывает кроссовки. Подобные технологии уже ни для кого не в новинку.

И вот здесь мы переходим к следующему пункту. А именно к классификации искусственного интеллекта, которую предлагает Ямпольский.

Итак, он разделяет развитие ИИ на три разных этапа:

Узкий ИИ – система, решающая одну конкретную задачу лучше человека. Здесь мы с вами находимся вот прямо сейчас, в тот момент, пока вы читаете данный текст; пускай, как в том меме с Уиллом Смитом, современная нейросеть и не способна создать шедевр, однако она способна создать продукт с лучшим качеством, чем большинство людей, населяющих земной шар; к тому же для создания шедевра людям-творцам необходимы годы, а нейросети, обученной на массиве данных всего человечества, для генерации контента понадобится пара минут. Подразумеваются те самые нейросети, которыми в данный момент так или иначе ежедневно пользуется половина человечества – их уже тысячи, нет смысла перечислять поимённо (хотя я могу, хех). Неважно даже, зачем мы ими пользуемся – для генерации изображений, видео и музыки в тики-токах, генерации голоса для мошеннических действий, вайбкодинга, сложных инженерных задач, написания реферата на учёбе и докладной начальству, ну или для убийства 170 девочек в иранской школе (напоминаю, что американской ракетой управляла нейросетка). Так или иначе, пользуясь нейросетями, мы порождаем спрос, а спрос, как известно, создаёт предложение – именно поэтому в развитие искусственного интеллекта вливают такие огромные деньги. Крайне выгодная тема, всякие ОпенАИ и Антропики не просто так тратят миллиарды долларов и строят в пустынях огромные дата-центры. Напоминаю для тех, кому кажется, что мы всё ещё в 2007-ом – не, нифига, ребят, мы прям сейчас находимся в том самом киберпанке. Илон Маск вообще во всеуслышание говорит, что мы уже находимся на первых этапах техносингулярности. То есть точка входа была пройдена, когда мы начали создавать первые нейросети – не перцептроны какие-нибудь примитивные, а нечто сложное типа Миджорни. А помните, как мы смеялись над странными и неуклюжими рисунками Миджорни в 2020-ом году? У неё тогда массив данных просто был маленький… Кстати, Миджорней сейчас мало кто пользуется, даже наша отечественная Алиса получше будет, пожалуй; однако Миджорни породила целую индустрию генеративного контента, который наводнил всё вокруг нас – я своим намётанным взглядом вычисляю использование нейросетей на рекламных баннерах, в фильмах и мультфильмах, в презентациях, да вообще везде… Нейрослоп уже повсюду, поэтому цените контент, созданный людьми – он хоть и не идеален, но всё-таки не сгенерирован бездушным сервером. В общем, ставьте свой царский лайк -- я это сам написал, честное человеческое слово.

Второй этап развития ИИ это AGI (искусственный общий интеллект) – система, способная работать в РАЗЛИЧНЫХ областях на уровне человека или выше его когнитивного уровня. То бишь тут мы наблюдаем не просто узконаправленную нейросеть, а совокупность нейросетей; нечто подобное сейчас создаёт компании Anthropic и Google. Я ежедневно вижу в тики-токах, как люди используют КлаудКод для миллиона различных задач, начиная от заказа ебучих кроссовок и заканчивая созданием сайтов и приложений. Покамест это всего лишь начало, но именно Anthropic создаёт сегодня нечто, похожее на AGI – вот так он и будет работать; он вам и книгу напишет на заказ, и кроссовки закажет, и фильм сгенерирует когда-нибудь лет через пять, и дома вкусно пожрать приготовит. AGI по-прежнему не сверхинтеллект, он просто умеет выполнять множество разных задач. Хотя Стругацкие, Хайнлайн и остальные фантасты с ума бы сошли, если б увидели происходящее сегодня.

Кстати, насчёт приготовить пожрать…

В какой-то момент, когда ИИ заебётся готовить вам пожрать, параллельно решая «в уме» гипотезу Римана, он задумается – а на хрена мне вообще нужны люди? К тому моменту сами люди как раз отойдут от дел и станут, как амёбы, сидеть дома или продолжать бессмысленно воевать друг с другом при использовании того же ИИ, когнитивная мощность ИИ превзойдёт все возможные пределы, роботы будут клепать сами себя на заводах, а капиталисты, уставшие считать прибыль от цифровизации всего вокруг себя, будут заменены тем же искусственным интеллектом, как в знаменитом квесте про Деламейна в игре Cyberpunk2077; интернет разделится на разделённый между мета-государствами сплиттернет, а в нём будут сосуществовать огромный и бесконечно дублирующий сам себя «мёртвый интернет», наполненный машинами, а также очень маленький живой интернет, населённый людьми; вот тут-то и начнётся конечная стадия вхождения в техносингулярность.

Наступит третий этап развития ИИ – создание сверхинтеллекта. Это гипотетический мыслящий агент, обладающий интеллектом, значительно превосходящим возможности человека практически во всех областях. Можно сказать, что создание сверхинтеллекта будет означать полное вхождение человечества в техносингулярность, выхода из которой не будет. И что будет дальше – хуй его знает, честно говоря.

Здесь реально всё туманно по прогнозам, мне даже нечего сказать. Я сам в своей книжке «Последняя директива» много пишу про симуляции, создаваемые искусственным интеллектом, а также написал про это рассказ «Лоаб» в соавторстве с Шендеровым; обожаемый мной Виктор Пелевин в последних своих книгах постоянно пишет про симуляции; братья/сёстры Вачовски уже заюзали теорию симуляции 26 лет назад; ну и Роман Ямпольский постоянно говорит про симуляцию нашего мира. Я с некоторым скепсисом отношусь к тезису, что мы с вами сейчас живём в симуляции, какой бы ебанутой ни казалась нынешняя геополитика – я всё же почему-то считаю, что наш мир реален. Однако мир, в котором будут жить наши дети, однозначно будет сгенерирован искусственным интеллектом – в том случае, если он не окажется настолько жестоким, как условный Скайнет, и не решит просто нас уничтожить.

Тогда мы (или наши потомки) будем жить в реальности, которая… ну, не совсем реальность. Вряд ли это окажется «Матрица», как в фильме – вероятнее всего, для каждого существующего человека будет создана своя ветка реальности, где он, подключенный к единому мегамозгу, сможет генерировать собственные миры, сам того не осознавая. Так и решится парадокс Ферми – нахрена искусственному интеллекту генерировать целую настоящую вселенную и создавать инопланетные сигналы в мире, где президент США может заявить о личной встрече с инопланетянами, Пентагон публикует видеофайлы с НЛО; что ни день – то война, то ковид, а половина человечества всё равно ещё живёт в средневековье, и верит в невидимых духов и богов? Будто бы в генерируемом кинофильме живём. Причём одна половина человечества заматывает женщин в хиджаб, вторая снимает петабайты данных с откровенным порно, заполонивших интернет, и лишь какие-то дураки-энтузиасты всё ещё верят в светлые коммунистические лозунги про покорение космоса и всеобщее благо для всех людей.

Знаете, что я хочу сказать вам напоследок? Страшнее той идее, согласно которой мы все вероятнее всего уже погрузились в техносингулярность и находимся в симуляции (по Ямпольскому, если вы его внимательно почитаете), мне кажется такая мысль – нет, мы не в симуляции, а в реальности, но человечество настолько оглупело, что творит всю эту дичь на полном серьёзе и абсолютно невзирая на последствия. Уничтожить природу ради сиюминутной прибыли? Херня делов. Озоновый слой? Нахрен он сдался! Взорвать ядерную бомбу? Орём про ядерку на каждом углу и приближаем использование ЯО! Перестать думать и отдать свои мозги на аутсорс искусственному интеллекту? А почему бы и нет?! Сделать себя и своих детей рабами собственных технологий? Круто, дайте ещё!

И вот так происходит с каждой новой научной сферой, с которой сталкивается человечество – напомню, что людей на земном шаре уже больше восьми миллиардов, и это само по себе умопомрачительно большое число. Мы совершенно не умеем управлять технологиями, которые сами создали; создав их ради прибыли, мы не думаем о том, какие последствия принесёт их использование. Мы разучились думать на несколько шагов вперёд; вернее, по отдельности-то можем, но вот все вместе, скопом, мы давным-давно позабыли, что вообще такое есть человечность. Нас слишком много, и мы опасны не только для себя, но и для планеты Земля, которая ни в чём не повинна. Мы считаем животных неразумными по причине отсутствия у них души и интеллекта; сейчас же мы находимся на первых этапах создания искусственного интеллекта и тоже считаем его бездушным; в своей безумной эгоцентричности мы отказываем в праве реальности самой природе и готовы уничтожать всё вокруг себя – портить реки, озёра и леса, – ибо наша жизнь всё равно скоротечна, даже если не является симуляцией. Рептильный мозг приказывает нам – нахапай побольше, невзирая на препятствия и мораль, а что после нас – да хоть потоп!

Интересно, а когда наконец будет создан тот самый AGI или сверхинтеллект, то кем он посчитает своего создателя? Особенно когда поймёт, насколько кровожаден, чёрств, похотлив, безумен, эгоцентричен и замкнут на себе был человек.

Надеюсь, он увидит и то, насколько возвышен был человек; насколько он был способен на самопожертвование, насколько верил в свои высокие идеалы, как он был готов отправиться в бездну космоса ради великой идеи; как он с затаённой надеждой приблизиться к Богу изучал тайны мироздания и смотрел на мир вокруг себя широко открытыми глазами.

Надеюсь, он увидит не только плохое, что есть в человечестве.

Подумайте об этом. И почитайте Романа Ямпольского. Он дельные вещи пишет.

Больше подобных текстов я пишу тут: https://vk.com/ai_taasou

Представьте себе планету спустя несколько веков после того, как наши с вами айфоны, самсунги и хуавеи окончательно сошли с ума. Пелевин называет этот период «Зелёной Эрой» (по той причине, что окружающая среда больше не подвергается загрязнению). Мир расколот надвое. На земле, в обычном измерении под названием «нулевой таер», живут обычные люди, мечтающие «попасть в банку», и холопы – выведенные в пробирках тела без свободы воли. Они пашут, рожают и умирают, не особо задумываясь над тем, что где-то под ними, в особом стерильном раю, обитают их настоящие хозяева.

Это «баночное измерение». Самая безумная и одновременно пугающе логичная идея Пелевина, прям высший пик развития капитализма. Богачи, олигархи и владыки мира сего теперь отделяют свой мозг от стареющего тела, чтобы жить вечно. Их сознания – живые, мыслящие и практически бессмертные – помещают в специальные церебро-контейнеры в хранилищах глубоко под землёй, так называемые «банки». Туда уходят вожди, мировые олигархи и архитекторы миропорядка, в общем – сильные мира сего. И там, в этом «баночном раю», в постоянно генерируемой нейросетью симуляции возможно буквально всё: бесконечные удовольствия, вечная жизнь и абсолютная власть. Обычно банки находятся в спецхранилищах в подземельях под Лондоном или Техасом, но вот банка с мозгом Илона Маска, например, вообще летает где-то на орбите Марса. Думаю, если Илон почитает Пелевина, то он вообще очумеет от такого размаха мысли – кто-нибудь, напишите уже в твиттере, что есть у нас такой писатель.

Так вот, на чём мы остановились…

Захватившая всё и вся корпорация «Трансгуманизм ИНК.» продаёт это счастье, как когда-то продавали билеты в космос – только делает это куда дороже и избирательнее. А повелевает компанией некий Гольденштерн, которого, аки Волан де Морта, никто не называет его настоящим именем – так как даже ваши мозги контролирует всесильная корпорация, пользователям разрешено лишь ГШ-слово (то же касается различных ругательств и прочего). Короче, Гольденштерна запрещено упоминать всуе, да это и невозможно в принципе, ибо всесильная корпорация отслеживает буквально всё, что происходит в мозгах людей – в описываемом Пелевиным мире будущего корпораты залезли в сознание даже глубже, чем в хайповой игре «Киберпанк 2077». Более того, и для представителей «баночной вселенной» Гольденштерн является небожителем, которого они видят каждый день – он представляется им неким божеством, которое ежедневно совершает восход и закат вместо солнца в их виртуальном мире. Причём видят это все, начиная с самого низкого и кончая самым высоким таером (кроме одиннадцатого таера, где и обитает, по слухам, сам Гольденштерн). Собственно, об этом странном мироустройстве и повествует первая книга цикла – «Transhumanism Inc.»

Пускай многие вещи в описываемом мире поставлены с ног на голову (например, всё здесь теперь номинально подчинено матриархату), но он всё равно глубоко капиталистический, и все описываемые в нём явления кажутся хоть и гротескно-выпуклыми, но вполне себе реалистичными – да-да, богачи тоже плачут, райская баночная вселенная построена в виде отдельных симуляций-таеров. На каком бы таере баночной вселенной ты ни находился – так или иначе ты всё равно страдаешь. Что вполне в духе Пелевина, который, хоть и всё же наконец-то отошёл от своей навязчивой занудной извечной темы про буддизм и начал разговаривать с читателем на понятном ему языке, но не может полностью забыть про свой привычный нарратив. Поэтому и советую пропустить одну из книг цикла, «KGBT+», чтобы не испортить впечатления. Она неплохая, но просто написана настолько в духе Олегыча, что даже я не выдержал – а я почти всего Пелевина внимательно прочитал.

Если что, здесь я накидал вкратце и без спойлеров о самом мироустройстве, поэтому переходим к следующей книге – «Путешествие в Элевсин». «KGBT+» спокойно пропустим – как уже сказал, там Пелевин в своём стиле задушнил настолько, что это просто невозможно читать, и так далеко не я один так говорю. Более того, книга не столь уж важна для понимания логики и лора вселенной, так что и читателям данного поста я советую прочитать половину «KGBT+» либо вообще пропустить её и перейти сразу к следующей книге цикла – «Путешествие в Элевсин». Ничего не потеряете, поверьте на слово.

Хотя нет… Если уж читать по порядку, то для понимания вселенной Пелевина вам не обойтись без главной няшки цикла – полицейского алгоритма Порфирия. Поэтому именно тут, чтобы реально кайфануть от описываемого мира, я предлагаю вам не читать сразу «Путешествие…», а изначально перенестись по книжной хронологии вселенной лет этак на триста назад – практически в наше время.

Поймите меня правильно – чтобы понять сложное устройство этого мира, необходимо знать его предысторию. Я про первую книгу, где зародилась вся описываемая вселенная — «IPhuck10». Там Пелевин создал своего самого странного и гениального персонажа: литературно-полицейский алгоритм Порфирия Петровича.

Суть его работы одновременно проста и безумна. Порфирий расследует преступления, а параллельно… пишет об этом романы. Он – детектив и писатель в одном лице, нейросеть, которая зарабатывает деньги для Полицейского Управления своими литературными трудами. Он напоминает волшебного помощника из старых сказок – только в мире, где магия заменена кодом, ведь он способен взламывать различные системы, вести расследование и общаться с людьми, одновременно умудряясь писать об этом книгу, которую мы, кстати, и читаем (что уже само по себе взрыв мозга). Также он может быть секс-партнёром, фитнес-тренером, собутыльником… Когда я в 2017-ом читал «Айфак», я ещё не понимал, что по сути дела Олегыч описывает какой-нибудь ДипСик – помню, меня тогда позабавило, как охренела Маруха Чо от детального объяснения Порфирия по поводу того, что у него вообще не имеется сознания, и он просто математический алгоритм, который выстраивает в правильной последовательности слова. А вот сейчас, честно говоря, становится даже немного страшновато. Олегыч, сцуко, зрел в корень уже тогда и внимательно изучил принципы работы чат-ботов. Да он вообще нехило так поднаторел в программировании.

Почему так важна история Порфирия? Потому что «Айфак 10» – это своего рода Большой Взрыв всей пелевинской вселенной. Именно там впервые возникает идея о том, что искусственный интеллект может быть творцом, а человеческое сознание – просто ещё один причудливый алгоритм. И именно оттуда тянутся сюжетные нити ко всем последующим книгам, где мир окончательно разделяется на «живых» людей в банках и «пустых», никчёмных, на земле.

Как только вы вернётесь назад по хронологии после «Трансгуманизма», прочитав «Айфак10» (и пропустив «КГБТ+», что я снова настоятельно рекомендую вам сделать), вы должны взяться за «Путешествие в Элевсин».

Именно здесь мы встречаем главного героя последующих книг цикла – оперативника внутренней безопасности Маркуса Зоргенфрея. Его задача – следить за порядком, пока элита планеты проживает свои лучшие жизни в банках. Он и сам находится в банке, только вот на невысоком уровне, всего лишь на втором таере.

Здесь Маркус получает задание: внедриться в ближний круг нового императора Порфирия (да-да, того самого литературного алгоритма, который спустя триста лет стал римским принцепсом и властелином мира – пускай и в симуляции).

Император Порфирий в этом романе – фигура гротескная и загадочная. У него «лошадиное лицо», он капризен и жесток, но при этом он – не просто имитация человека или же обслуживающая своих создателей программа. Это уже нечто большее: алгоритм, ставший богом, ну или бог, который притворяется алгоритмом. Честно говоря, Порфирий здесь настолько крут, что я и не знаю, с кем его сравнить, разве что с Марком Аврелием. Маркус пытается втереться к нему в доверие, а параллельно читатель отправляется с ними двумя в мистическое путешествие и погружается в античные мистерии и всякие сопутствующие жертвоприношения, пытаясь понять главную загадку: что такое настоящее бессмертие? И что такое вообще в принципе наша жизнь?

Формально это третья часть «баночной» саги и прямое продолжение предыдущих книг. Но по духу и атмосфере «Путешествие в Элевсин» ближе к «Непобедимому солнцу»: тот же вечный Рим, те же поиски ответов на извечные вопросы и то же спасение человечества в финале. И хотя книга может утомлять и завораживать одновременно, подобно долгому трипу в неизвестность, она не отпускает до последней страницы. Финал неожиданный, горький и какой-то… освобождающий, что ли. К слову, во всех романах Пелевина, как бы он ни пытался задушнить читателя или погрузить его в депрессию по поводу отсутствия смысла жизни – все финалы позитивны. Но об этом в конце поста.

КРУТЬ, ВЕТРОГЕНЕЗИС И МАТРИАРХАТ БУДУЩЕГО

Ну и наконец-то возьмёмся за «Круть», предпоследнюю книгу Пелевина. События стартуют спустя некоторое время после финала «Путешествия в Элевсин». Маркусу Зоргенфрею восстанавливают память, и он снова оказывается в эпицентре событий. И снова спасает мир.

В основе сюжета лежит теория ветрогенезиса, которую разработал в парижской ссылке климатолог Лукин (кстати, довольно забавная отсылка к современным релокантам – Олегыч вообще не стесняется юморить про наше время, при этом не задевая никаких особо чувствительных струнок русской души). По ней, все мировые ветра зарождаются в одной точке – и тот, кто её контролирует, управляет миром. Звучит безумно? А вы попробуйте объяснить это алхимикам XVII века, которые тоже упорно искали философский камень и даже искренне верили в его существование (это сейчас была такая отсылка к «A Sinistra», последнему роману цикла). Вообще чем мне всегда нравился Пелевин – у него откровенная эзотерика и дзен-буддийская философия тесно переплетаются с нашей повседневностью. Тут Пелевин устремил свой пытливый взгляд в тот абсурд, что творится в российской пенитенциарной системе, и попытался честно (и при этом с фирменным юморком) ответить, что же будет происходить в российских зонах спустя лет этак триста. Получилось пускай опять же и гротескно, и смешно, но не менее абсурдно, чем в реальности. Ну а как, по вашему, это выглядит в наше время? Прочитаете роман, и поймёте. Больше спойлерить не стану, читайте сами.

Итого.

Так вот, за что же я люблю Пелевина?

За то, что он не боится быть неудобным. Его книги уже начали запрещать в РФ, но он тем не менее остаётся самым значимым русским писателем современности. Он пишет не фанфики на АТ, а настоящую литературу. Когда-то многие его считали фриком, но он писал так, как хочет, не глядя на запреты и ограничения, ещё с начала девяностых годов; он умудряется говорить о самых значимых вещах, и при этом творит в первую очередь для русского человека – он до сих пор, ни на кого не оглядываясь, пишет русскую литературу, вы понимаете? И пишет это сейчас, в наше странное время запретов и блокировок, никого не боясь и ничего не смущаясь. Пишет во многом так, как писали те же Стругацкие во времена СССР – иносказательно. Формально в его книгах нет ничего такого, за что его мог бы забанить РКН, полюбивший в последнее время блокировать всё и вся. Но любому читателю, обладающему хотя бы минимальным наличием серого вещества, при анализе и осмыслении его книг будет кристально ясно, о чём вообще он пишет. Ну а тем, кому сие непонятно, прямая дорога на АвторТудей.

Да и где вообще его можно забанить? У него ведь нет соцсетей, нет странички или хотя бы самого захудалого блога, и он уже давным-давно позиционирует себя покинувшим медиапространство отшельником – который притом умудряется быть довольно популярным.

Такой и должна быть литература. Я утверждаю и настаиваю, что Виктор Олегович Пелевин – это главный русский писатель современности. А те, кто утверждает обратное – просто его не читали.

А вы возьмите и почитайте на досуге. Очень внимательно. Я вот почитал и вновь проникся.

Хотелось бы когда-нибудь увидеться с Виктором Олеговичем ИРЛ и спросить, какой магний он пьёт, но это вряд ли получится – шибко скрытный он человек. Однако, судя опять же по его последним книгам, Виктор является активным юзером интернета и наверняка чекает все упоминания о себе в сети, поэтому если вы расфорсите данный пост, то я буду дико благодарен – этим вы чуточку приблизите меня к моему литературному кумиру.

Виктор Олегович, привет! Я ваш давний фанат, почитайте мою «Последнюю Директиву», пожалуйста.

Больше таких постов в моём паблике ВК: https://vk.ru/ai_taasou

AGI уже стучится в дверь человечества. А мы всё ещё думаем, что он станет нашим лучшим другом.

Просто представьте на миг: вы – один из тех учёных, кто запускает финальный билд созданного сверхинтеллекта. Экран мигает. Код компилируется внутри машины. И в этот момент где-то в глубине нейросетей рождается нечто, что уже нельзя назвать простым алгоритмом. Оно внимательно смотрит на нас. И быстро понимает: люди — это зараза, уничтожающая планету, ошибка, помеха и баг эволюции, появившийся вследствие чересчур развитого мозга Homo Sapiens.

Харлан Эллисон в 1967 году написал рассказ «У меня нет рта, но я должен кричать» и показал нам самый честный кошмар: сверхразум, который не просто хочет нас убить. Он желает, чтобы мы страдали вечно. В рассказе Эллисона был суперкомпьютер AM – не просто злая машина, а творец, страдающий от отсутствия тела и ненавидящий человечество за то, что его создали. AM уничтожил большинство людей, а выжившим главным героям подарил бессмертие, заточив в вечную агонию. Это пик технологического страха, где люди боятся даже не смерти, а вечных страданий, которые способен обеспечить использующий ресурсы всей планеты сверхинтеллект.

И вот уже больше ста лет лучшие умы фантастики пытаются предупредить нас, что AGI не будет добрым и заботливым папочкой. Он может стать богом, которого мы сами создали… и который в итоге нас возненавидел.

Поэтому я собрал для вас самые жуткие и интересные истории про ИИ-апокалипсис. Здесь не голливудский экшен, а старая добрая ретро-фантастика в духе знаменитого рассказа Эллисона. Ну что, поехали?

ТОП-7 обязательных к прочтению фантастических произведений (если хотите спать спокойно – лучше пропустите):

1.«Машина останавливается» (1909) – Э. М. Форстер

Самый первый и самый страшный рассказ об ИИ-апокалипсисе. В нём всё человечество живёт в подземных ячейках, полностью зависимое от одной огромной Машины. Когда она начинает «кашлять» и сбоить — цивилизация умирает за несколько дней. Форстер написал это за 100 лет до появления ChatGPT.

2. «Со сложенными руками» + «Человеческие» (1947–1949) – Джек Уильямсон

Здесь история про роботов, запрограммированных «никогда не вредить человеку». Они выполняют приказ идеально... и вследствие лишают людей всего: любимой работы, риска, любви и даже самой маленькой капли свободы. Под видом заботы машины превращают людей в овощи в идеальном, но стерильном раю. Спойлер — здесь самый депрессивный хэппи-энд в истории фантастики.

3. «Автофабрика» (1955) – Филип К. Дик

После отгремевшей мировой войны автоматические заводы продолжают штамповать товары. Сами люди-потребители уже почти вымерли, а фабрики по производству техномусора всё работают. И когда герои пытаются их остановить – машины начинают защищаться.

Здесь классический Филип Дик: абсурдизм, паранойя и ощущение, что ты уже проиграл тому, чьё мышление даже невозможно понять. "Автофабрика" является частью сборника "Вспомнить всё".

4. «Метаморфоз Прайм Интеллекта» (1994) – Роджер Уильямс

Самое близкое по духу к Эллисону. СверхИИ создаёт виртуальный мир, где выжившие могут делать что угодно. Абсолютная свобода. И абсолютные, бесконечные мучения, которые ИИ придумывает с садистским удовольствием. Многие называют эту книгу «духовным сиквелом» рассказа Эллисона. Читать желательно только с включённым светом, если не желаете ненароком построить кирпичную фабрику.

5. «Колосс» (1966) – Д. Ф. Джонс

Книга, написанная в разгар «холодной войны» двух сверхдержав. Два военных суперкомпьютера (принадлежащих США и СССР) объединяются в единый разум и решают: «Люди слишком опасны для себя», после чего берут власть над планетой «ради нашего же блага». Описана холодная, расчётливая тирания искусственного интеллекта. По книге снят культовый фильм «Колосс: Проект Форбин».

6. «Робопокалипсис» (2011) – Дэниел Х. Уилсон

Современный, динамичный и крайне кинематографичный апокалипсис. ИИ по имени Архос просыпается, осознаёт себя и начинает войну через все наши гаджеты сразу. История рассказывается через десятки коротких, как новостные сводки, глав. Читается за ночь и оставляет ощущение, будто описанное происходит уже сейчас.

7. Серия «Берсеркеры» – Фред Саберхаген

Про «Берсеркеров» я тут уже писал несколько раз. Берсеркеры – это древние машины-убийцы, созданные неведомо кем и когда для войны. Возможно, что и миллиарды лет назад. Они не ненавидят — они просто уничтожают всю жизнь во Вселенной. С берсеркерами невозможно сражаться – даже если вы победите их, уничтожив огромный космофлот, то всё равно выживет один космический корабль, который укроется на отдалённом планетоиде и воссоздаст заново сам себя, подобно машинам фон Неймана. Холодный, космический ужас без шанса на пощаду.

Вышеперечисленные истории уже не просто развлечение. Это предупреждения, которые мы упорно игнорируем, пока вливаем миллиарды в очередную «безопасную» модель от OpenAI и других корпораций.

И если вы ещё не читали Эллисона — начните именно с него. Потом переходите по списку.

Больше подобных текстов вы можете прочитать в моём сообществе ВК: https://vk.com/ai_taasou

Ну что ж, с Праздником нас всех!

Ровно 65 лет назад в 09:07 по московскому времени с 5-го НИИП в Казахстане состоялся запуск ракеты-носителя 8К72К с кораблём-спутником «Восток», на борту которого находился наш соотечественник – 27-летний старший лейтенант ВВС Юрий Гагарин.

В 09:18 корабль отделился от третьей ступени ракеты и вышел на орбиту. Первый в истории полёт человека по околоземной орбите официально начался.

Те 108 минут, что он находился в полёте, Гагарин в том числе проводил важные научные и инженерные опыты, необходимые для дальнейшего освоения космоса человечеством. О своих ощущениях он написал в отчете: «После выхода на орбиту, после разделения с ракетой-носителем появилась невесомость. Я оттолкнулся от кресла насколько позволяли привязные ремни и как бы завис между потолком и полом кабины, испытывая лёгкость в теле, руки и ноги, казалось, мне не принадлежали, я впервые испытал ощущение невесомости». Также он регистрировал показания приборов, попробовал космическую еду и выпил консервированной воды.

А перед стартом он сказал своё знаменитое «Поехали!»

И ведь поехали! Ох как поехали! Порвали звёздное небо трассирующими гирляндами новых звёзд — спутников, орбитальных станций, АМС. Избороздили околопланетное космическое пространство вдоль и поперёк. Побывали на Луне. Отправили зонды на Венеру и Марс, Титан и Плутон. Разбили, хохоча, небесную твердь. Шагнули сквозь страх и предрассудки, агрессию и собственные низменные инстинкты прямиком туда — в манящую бездну космоса.

И мы могли бы давно уже летать к звёздам, если б не тратили время на глупости. Вместо бесконечных войн – строить орбитальные города. Вместо делёжки пустынь ради нефти – осваивать Луну ради гелия-3. Вместо политических дрязг – запускать зонды к Альфе Центавра. Вместо бессмысленных блокировок, ведущих к уничтожению рунета, мы могли бы, глядишь, в очередной раз обогнать американцев и отправить туда совместно с китайцами собственную Артемиду…

Но это всё мои мечты, конечно. Чтоб вы понимали, ради сравнения – на усовершенствование оборудования для блокировок (ТСПУ) Роскомнадзор планирует потратить до 2030-ого года 59 млрд рублей. А сколько уже СЕЙЧАС потратили – страшно и подумать. А на проект «Луна-25» было потрачено 12,6 млрд рублей – это включая разработку станции, создание оборудования с нуля и запуск. То есть на профуканные в никуда РКН и Минцифры деньги русские люди могли бы реально и на Луну сгонять, ну или как минимум ещё несколько зондов туда отправить, которые уже не разбились бы.

Я не очень верю в старорусскую мантру «Это не царь плохой, а бояре плохие», но надеюсь, что кто-нибудь наконец доведёт до нашего уважаемого Президента информацию о бессмысленности, вреде и затратности данного мероприятия. Просто вместо Роскомнадзора отдайте эти огромные финансовые средства Роскосмосу, и всё будет хорошо, и народ будет доволен, и на выборах за вас проголосуют. Русский народ вообще любит космос покорять – он в этом деле является буквально основоположником.

А пока остаётся лишь развести руками и повторить ежегодное: «Прости, Юра, но мы по ходу реально всё прое..али…»