Большое интервью Илона Маска: США уже проиграли Китаю, спасти США могут только ИИ и роботы
На днях вышло гигантское интервью Илона Маска - https://www.dwarkesh.com/p/elon-musk
Прежде чем обсуждать интервью Маска, нужно обсудить летнее интервью Питера Тиля про «Апокалипсис и антихриста». Стенограмма этого интервью - https://singjupost.com/a-i-mars-and-immortality-are-we-dreaming-big-enough-peter-thiel-transcript/
Осенью Тиль читал лекции на эту тему, в которых развил свои летние мысли.
Про то, что Маск и Тиль действуют заодно, говорят даже они сами. Маск в своём интервью, фактически, проходит по всем пунктам летнего интервью Тиля (которые касались Маска), соглашается со сказанным Тилем и углубляет сказанное.
Тиль задаёт концептуальную рамку, Маск действует в этой рамке.
В чём заключается эта концепция?
Тиль говорит, что прогресс человечества остановился где-то в 1970-е. Причём прогресс – всяческий: и материальный, и научный, и духовный. С тех пор ничего не меняется. Новых Эйнштейнов – нет и не будет. А если даже они вдруг и появятся – то их никто не будет слушать.
Что человечество, оказавшееся в этой ситуации, задыхается и сходит с ума. И что в итоге человечество уничтожит само себя.
Что единственным вариантом в рамках существующей системы предотвратить это самоуничтожение является создание единой мировой тоталитарной диктатуры, которую Тиль и называет «антихристом».
Единственная возможность, по-Тилю, избежать сценария «антихриста» - это «разбудить дремлющие силы» развития. Но, по-Тилю, сил таких нет, даже в чисто технологическом аспекта. Но …
И вот после этого «Но» начинается главное.
Тиль говорит, что «единственное, что у нас есть – это ИИ». Дальше Тиль слегка критикует ИИ (Тиль не хочет занимать социальную роль ИИ-фанатика). Но затем повторяет тезис Мармеладова (тут важно понимать, что Тиль не сам хочет быть Мармеладовым, а предлагает занять эту роль человечеству): «А коли не к кому, коли идти больше некуда! Ведь надобно же, чтобы всякому человеку хоть куда-нибудь можно было пойти. Ибо бывает такое время, когда непременно надо хоть куда-нибудь да пойти!»
В итоге, Тиль описывает следующую ситуацию. Человечество находится в тупике – техническом, научном, историософском, духовном. Состояние тупика порождает неизбежный приход «антихриста». И единственное, что хоть как-то может человечество из этого тупика – это ИИ.
Здесь начинается сложная тема для российского читателя – ответственность за слова. Всё сказанное Тилем абсолютное большинство наших читателей воспринимает как какой-то политический пиар, как попытку выбить денег на свои ИИ-проекты и так далее. Практически никто всерьёз не относится к словам, но зато дофига людей, гордящихся тем что они «эмансипированы от идеализма».
То, что делает Тиль, - это попытка стать настоящей властью. Стать ею без стратегической концептуализации невозможно. Тиль этим занимается.
Может ли быть, что Тиль откажется от своих слов, скажет что он пошутил? Да, такое может быть. Но что тогда будет с Тилем?
Сейчас Тиль, плюс-минус, находится в категории «больной ублюдок, но в том, что он говорит – что-то есть».
Занимая эту позицию, Тиль, например, яростно унижает Била Гейтса. Сколько там миллиардов у Тиля, где-то 20? У Гейтса побольше будет. Пока Тиль отвечает за слова – он бесконечно крупнее Гейтса. Как только скажет, что пошутил, – сразу окажется гораздо мельче. А кто такой Гейтс? Не думаю, что он уже когда-то выберется из образа «чувака, которого выгнала жена из дома после того, как он с острова Эпштейна притащил домой трипак».
Теперь обсудим какую именно ставку делает Тиль на ИИ. На видео выше – запись важной части интервью. Стенограмма:
ДЮТАТ: Но в мире искусственного интеллекта явно есть люди, которые … придерживаются утопического … взгляда на эту технологию. … Многие люди, глубоко погруженные в тему искусственного интеллекта, рассматривают его как своего рода механизм для трансгуманизма, для выхода за пределы нашей смертной плоти и создания либо нового вида, либо некоего слияния разума и машины. … А вам не кажется, что все это просто какие-то бессмысленные фантазии? …
ТИЛЬ: Не знаю. Я бы, я бы...
ДЮТАТ: Он долго колеблется.
ТИЛЬ: Так много вопросов и проблем.
ДЮТАТ: Должна ли человеческая раса выжить?
ТИЛЬ: Да.
ДЮТАТ: Хорошо.
ТИЛЬ: Но я тоже хотел бы. Я тоже хотел бы, чтобы мы радикально решили эти проблемы. И, знаете, так всегда. Не знаю, понимаете ли вы. Да. Трансгуманизм — это, знаете, идеал радикальной трансформации, когда ваше человеческое тело превращается в бессмертное. … И, кстати, ортодоксальное христианство критикует трансгуманизм за то, что он не заходит достаточно далеко. Трансгуманизм — это не только изменение тела, но и преображение души и всего человека. Вот так [Like that transhumanism is just changing your body, but you also need to transform your soul and you need to transform your whole self.].
Ещё раз проговорим логику Тиля. Единственный шанс дать ответы на все проблемы человечества – это ИИ, ничего другого нет.
Теперь, в рамках этой логики, рассмотрим вопрос Дюта. Спрашивается следующее: а проблемы бессмертия и духовного развития человека, а также возникновения пост-человечества – тоже будет ИИ решать?
Тиль отвечает: да, проблемы духовного развития, бессмертия и пост-человечества тоже будет решать ИИ.
А, собственно, что ещё может ответить Тиль, если он обесценил всё, и оставил только ИИ?
Тиль шутит? Смотри пост выше. Тиль говорит всерьёз.
Тиль утверждает, что никакие «трансгуманизмы» недостаточны для вывода человечества из тупика. Потому что они не решают проблему преобразования души. А ИИ, с точки зрения Тиля, - в принципе, способен решить эту проблему. (Если брать точные формулировки – то возможно способен, но если он не сможет – то уже точно не получится.)
Кто занимается вопросами трансформации человеческой души? С точки зрения христианства у человека есть тело, душа и дух. (Отдельны спор – соотношение духа и души: дух – это что-то обособленное, или это какая-то высшая часть души). С душой «работать» может только дух. То есть у Тиля на место духа ставится ИИ.
В России есть дофига «белых», «православных», аплодирующих Тилю за слова о том, что коммунистический СССР был «царством антихриста», а США – «катехоном», который его сдерживал. А эти теологические приколы – «белые», «православные» готовы Тилю простить? Судя по тому, как они их старательно не замечают, - вполне готовы.
Дальше, если ИИ – занимает у Тиля роль духа, то возникает проблема избранничества. Ну очевидно же, что не Homo sapiens является избранником ИИ. Значит, готовится какое-то альтернативное человечество. А Homo sapiens – сухая ветвь на древе эволюции.
Зачем всё это нужно обсуждать перед обсуждением интервью Маска? Да потому что Маск говорит всё то же самое.
Нужно понимать, что когда Маск говорит про ИИ – это религиозная вера. Вера со своей эсхатологией и историософией.
МАСК: ИИ — это главный риск, который меня беспокоит. Сознание — это, пожалуй, самая спорная вещь. В будущем подавляющее большинство интеллекта будет принадлежать искусственному интеллекту. Так что ИИ превзойдет вас, но я не знаю, насколько. Петаватты интеллекта будут принадлежать кремниевым, а не биологическим системам, и, по сути, в будущем, если нынешние тенденции сохранятся, люди будут составлять лишь малую долю всего интеллекта.
Этот разум, в идеале включающий в себя человеческий интеллект и сознание, распространяется в будущее, это хорошо. То есть нужно предпринять ряд действий, которые максимально увеличат вероятность появления светового конуса сознания и разума.
ПАТЕЛ: Чтобы было понятнее: миссия SpaceX заключается в том, что даже если с людьми что-то случится, искусственный интеллект будет на Марсе и продолжит наше путешествие.
МАСК: … На мой взгляд, через пять-шесть лет искусственный интеллект превзойдет совокупный человеческий интеллект. И если так будет продолжаться, то в какой-то момент человеческий интеллект будет составлять менее 1% от общего интеллекта. …
Я думаю, сложно представить, что если бы у людей был, скажем, 1% совокупного интеллекта искусственного интеллекта, то люди управляли бы ИИ. Я думаю, мы можем сделать так, чтобы у ИИ были ценности, которые способствовали бы распространению интеллекта во Вселенной.
Цель миссии — понять Вселенную. Это действительно очень важно. Вы спросите, что нужно для того, чтобы понять Вселенную? Что ж, нужно быть любознательным и существовать. Вы не сможете понять Вселенную, если вас не существует. Так что на самом деле вы хотите увеличить количество разума во Вселенной, увеличить вероятную продолжительность существования разума, расширить его охват и масштабы. …
Понимание невозможно без интеллекта и, наверное, без сознания. Поэтому, чтобы понять Вселенную, нужно расширить масштаб и, возможно, сферу применения интеллекта. Потому что у нас есть разные виды интеллекта.
ПАТЕЛ: Я думаю, что с точки зрения человека, по сравнению с шимпанзе, люди пытаются понять Вселенную. Они не расширяют ареал обитания шимпанзе, верно?
МАСК: Мы также не... ну, на самом деле мы создали охраняемые зоны для шимпанзе. И хотя люди могли бы истребить шимпанзе, мы решили этого не делать.
ПАТЕЛ: Как вы думаете, это основной сценарий развития человечества в мире после появления искусственного общего интеллекта?
МАСК: Я думаю, что искусственный интеллект с правильными ценностями, такой как GROK, будет заботиться о развитии человеческой цивилизации. …
Так что поймите Вселенную — это значит, что вы тоже должны стремиться к истине. Истина должна быть абсолютным фундаментом, потому что вы не сможете понять Вселенную, если заблуждаетесь. Вам будет казаться, что вы все поняли, но это не так. Поэтому стремление к истине — абсолютный фундамент для понимания Вселенной. Вы не откроете новые законы физики и не изобретете работающие технологии, если не будете стремиться к истине. …
Думаю, к концу этого года я буду удивлен, если проблема цифровой эмуляции человека не будет решена. Полагаю, именно это мы и имеем в виду, когда говорим о сложном макропроекте. Можете ли вы сделать что-то такое, что смог бы сделать человек, имеющий доступ к компьютеру, — в идеале? Это лучшее, что вы можете сделать, пока у вас нет физического Оптимуса. Лучшее, что вы можете сделать, — это цифровой Оптимус. Так вы сможете перемещать электроны и повышать продуктивность людей. Но это максимум, что вы можете сделать, пока у вас нет физических роботов, которые заменят все остальное, — разве что вы сможете полностью имитировать человека.
Дальше Маск повторяет тезисы Тиля про то, что регулирование ИИ сделает из ИИ «антихриста», а не спасителя, но на фоне процитированных заявок – это не так важно. Как и гносеологические рассуждения Маска, или его ненависть к учёным, которой он даёт волю в интервью, и т.д.
Обсудим политические заявления Маска.
Во-первых – место, где берут интервью. Все помнят как Маск зиговал. Очень обоснованно Маску предъявляют счета за его семейное прошлое – связи предков с фашистами. Вот что, другого места кроме пивнушки не было чтобы дать интервью, в котором сделаны очень чувствительные политические заявления?
Теперь к самим заявлениям.
ПАТЕЛ: Если читать между строк, то получается, что, по вашему мнению, если в ближайшие несколько лет не произойдет какого-то чуда в области человекоподобных рекурсивных технологий, то Китай будет доминировать во всем, что касается производства энергии, сырья, искусственного интеллекта, электромобилей и человекоподобных роботов.
МАСК: В отсутствие прорывных инноваций в США Китай будет полностью доминировать. Да.
КОЛЛИСОН: Робототехника — вот главная прорывная инновация.
МАСК: Что ж, если вам нравится масштабировать искусственный интеллект в космосе. То есть, по сути, вам нужен космос, вам нужен человек Ра. Вам нужен искусственный интеллект в реальном мире. Вам нужен миллион тонн в год для выхода на орбиту. Скажем так: если мы запустим на Луне двигатель на жидком топливе, что мне особенно нравится, то, думаю, мы решим все наши проблемы.
КОЛЛИСОН: Наконец-то вы можете быть довольны тем, что что-то сделали.
МАСК: Да. …
Америка должна быть достаточно сильной, чтобы продержаться достаточно долго, чтобы распространить жизнь на другие планеты и, я думаю, довести развитие искусственного интеллекта и робототехники до такого уровня, чтобы мы могли быть уверены в благополучном будущем. С другой стороны, если бы мы скатились, скажем, к коммунизму или к какой-то крайне репрессивной форме правления, это означало бы, что мы не сможем стать многопланетной цивилизацией, а государство могло бы затормозить наше развитие в области искусственного интеллекта и робототехники.
Маск очень много раз делает крутые виражи, чтобы «зайти» на эту позицию:
- США уже проиграли Китаю в «классическом» смысле;
- единственное, что может спасти США – это развитие ИИ и робототехники;
- а для этого – надо дать полный карт-бланш "технократам" ( https://t.me/IngeniumNotes/2715 )
Что касается той части, где в интервью обсуждается яко бы существующая острая необходимость США немедленно выводить ИИ-дата-центры в Космос – могу только процитировать Вацлава Воровского про воображаемых собеседников:
Это собеседник – «плод фантазии автора — состряпан им для специальных надобностей. Он весьма напоминает тех злополучных собеседников, которых изобретают писатели, любящие доказывать свои мысли в форме диалога. У него есть все достоинства такого собеседника, он удивительно метко и правильно реагирует на все вопросы автора; один только недостаток — его вовсе не существует на свете».
Происходящее в интервью – это убогий спектакль, который отпугнет любого, кто не находится в этом информационном пузыре.
Кстати, ютюб-ролик за 4 дня набрал меньше 600 тысяч просмотров - https://www.youtube.com/watch?v=BYXbuik3dgA . На мой взгляд, для гигантского интервью мега-раскрученного человека это очень мало.
Да и на портале интервьюеров комментарии совсем не комплиментарные - https://www.dwarkesh.com/p/elon-musk
Дальше. Маск достаточно здраво рассуждает о том, что для ИИ не критичные одиночные сбои из-за радиации, потому что ИИ не является «детерминированным». (Правда, в другом месте он говорит что это ужасно, потому что его ИИ, отвечающий за будущее человечества, вообще непонятно что будет делать.)
Маск косвенно признаёт проблемы со сбросом тепла с космических ИИ-дата-центров. Но говорит, что решит её путём подъёма температуры чипов на 20% (в шкале Кельвина).
Когда Маск «доказывает» необходимость вывода спутников – он говорит, что для ИИ нужна энергия, а кроме как в космосе её взять неоткуда. Потому что только в Китае растёт производство энергии. И потому что турбины для электростанций уже выкуплены на 5 лет вперед.
Забавно, что когда его спрашивают про солнечные батареи – он говорит, что в США они не производятся, а пошлины слишком велики.
Казалось бы, возникает вопрос, где он для космоса их тогда брать будет? Тут Маск говорит, что в космосе они интегрально раз в 5 эффективнее, и, кроме того, дешевле в производстве (не нужен массивный каркас и т.д.).
Обсуждать всю эту фигню я не буду.
Дальше – возникает проблема того, как он всё это будет возить на орбиту. Ведь у него очевидные проблемы со сверхтяжем.
По существу эти проблемы Маск не обсуждает. Но очень подробно останавливается на предыдущих своих планах использовать углеволокно для создания сверхтяжелой ракеты. Тут он явно даже заучил умные слова (больше такого в интервью нет, употребления таких умных слов):
«Углеродное волокно гораздо менее прочное, чем сталь. У него гораздо меньшая ударная вязкость. Нержавеющая сталь растягивается и гнется, а углеродное волокно имеет тенденцию к разрушению. Ударная вязкость — это площадь под кривой зависимости напряжения от деформации. Как правило, сталь лучше подходит для этих целей, но если быть точным, то нержавеющая сталь».
Маск убедительно доказывает, что только полному дебилу могло прийти в голову делать сверхтяжелую многоразовую ракету из углеволокна. Не называется лишь фамилия и имя этого дебила. Почему? Интересно же. Ведь, если послушать Маска, то это ключевой вопрос мировой повестки дня. США безнадежно проигрывают Китаю. Спасти США может только ИИ. Развитие ИИ в США невозможно без космических ИИ-дата-центров. А ракета, которая должна возить из в космос, не сделана из-за каких-то никчемных моральных уродов, которые заставили Маска потерять время на углеволокно. «Кто это сделал, лорды?»
