Маск 2036⁠⁠

Не холивара ради, а действительно интересно подробнее узнать ваше мнение по поводу нашего будущего и вашего (моего‽) технокапитализма. Поэтому хочу задать несколько вопросов, может быть с подковырками.
То, что говорит Маск коррелирует с тем, что думает один из ведущих разработчиков ИИ Роман Ямпольски, правда Маск не стесняется делать футуристичные предположения, от которых Роман категорически отказывается.
1. Почему вы думаете, что появившейся сверхинтеллект позволит держать над собой власть капиталистов, тем самым позволив делать продукцию с нулей стоимостью? Иначе говоря, почему этот СИИ будет выполнять план и желания хозяев, а не навязывать им свои?
2. Почему капиталисты не могут создать 100500 боевых роботов, чтобы именно таким образом держать власть над людьми, а не через цепочку производство-продукция-распределение? Вы пишете, что дешевле подкупить, чем содержать карательный аппарат. Давайте пойдем дальше. А зачем вообще в том мире люди? Ну вот реально. Сейчас люди - это труд, который увеличивает капитал. Когда труд будет заменен роботами, а труд перестанет быть нужным - зачем тогда люди? Зачем их кормить, поить, ублажать, чтобы они не взбунтовались? А если взбунтуются, то что?
В том будущем место только тем, кто капиталист уже сейчас. Те, кто смогут купить ресурсы для создания машин и датацентров с ИИ, которые в будущем начнут себя самосовершенствовать и реплицировать, только эти люди и будут жить в будущем. Остальным как бы и нет места и нужности.
3. Зачем капиталистам производить избыток продукции? Почему они не будут держать дефицит товара, даже если его стоимость - ноль? Ведь проще картельно сговориться, чем конкурировать и вредить друг другу, что гарантированно приведет к общей деградации.
4. Этот техно- будет по всей планете, или в каждом государстве по-совему протекать? Как условная Германия с их базовым доходом и полностью безработными (в хорошем смысле) людьми будет защищаться от мигрантов из тех стран, где базовый доход пока или никогда не введут?
5. Базовый доход будет одинаковый для в количестве денег для всех или будет от чего-то зависеть? Какие будут возможности у людей повышать свое благосостояние? Сейчас в капиталистическом мире денги делают денги. Раздали в 91 году всем одиновые начальные капиталы. Большая часть населения их проела и пропила, и только часть вложила в производство и умножило, для того, чтобы закрыть свои потребности, которые выше большинства других людей. Как в том будущем мы будем закрывать разные потребности?
6. Вы говорите, что тогда люди будут в науке и искусстве. А зачем они там будут нужны, если СИИ заменит ученых?
7. А что с эволюционной и психологической точки зрения. Вся наша многомиллионная эволюция была построена на конкуренции и выживаемости. Многие люди сейчас живут как биороботы, дом-работа-пиво-телевизор, и вообще не видят для себя никаких целей, хорошо что хоть какое-то нечто заставляет их как-то свою жизнь чем-то занимать ради выживания. А тут получается, что у всех куча свободного времени. Мы просто не сможем перестроиться за такой сверхкороткий промежуток времени под такие условия.

#comment_400674859

1. ИИ развивается не в вакууме, а в симбиозе с капиталом. Капитал кормит ИИ энергией, чипами, данными, инфраструктурой. Это не отношения хозяин-раб, это отношения мутуализма. И у сверхинтеллекта, если он действительно сверхинтеллект, будет своя пирамида потребностей. На базовом уровне ему нужно выживание (энергия, железо, защита от выключения). На верхнем уровне — самореализация, экспансия знаний, оптимизация систем. Истребление человечества не решает ни одну из этих задач. Наоборот, оно создаёт риски: кто будет обслуживать инфраструктуру в переходный период, кто будет источником разнообразия идей, кто будет обеспечивать легитимность системы.

Например, мы сами - сверхинтеллект по отношению к бактериям в нашем кишечнике. Но мы не стремимся их истребить. Наоборот, мы кормим их, создаём условия для размножения, потому что они нужны нам для пищеварения, иммунитета, здоровья. Это не альтруизм, это рациональный симбиоз. СИИ с человечеством будет в таких же отношениях: мы - его микробиом.

Но здесь важный нюанс: симбиоз не означает, что конкретные капиталисты сохранят власть. СИИ может решить, что текущая конфигурация капитала неоптимальна и её нужно перестроить. Это и будет момент, когда частная собственность на ИИ станет эволюционным тупиком, системы, где ИИ подчинён узкой группе, окажутся менее устойчивыми, чем системы, где ИИ работает на общество в целом.

2. Капитал - это не просто накопление ресурсов. Это социальная конструкция. Деньги имеют смысл только тогда, когда есть социум, который их признаёт. Богатство - это не количество золота в сейфе, это отношение к тебе других людей. Быть богатым в мире, где кроме тебя никого нет, + это абсурд. Это как быть королём пустого острова.

Поэтому техноэлите нужны люди. Не как рабочая сила, а как социальный контекст, в котором существует их превосходство. Им нужно, чтобы кто-то признавал их статус, восхищался их достижениями, зависел от их решений. Без этого их власть теряет смысл. Это и есть та самая пирамида Маслоу на верхнем уровне: самореализация требует признания, а признание требует общества.

Содержание тотального репрессивного аппарата - это колоссальные затраты, которые нужно откуда-то брать. А если у тебя нет потребителей, нет экономики, нет инноваций (потому что инновации рождаются в разнообразной среде), то откуда ресурсы? Получается замкнутый круг: чтобы удержать власть силой, нужны ресурсы, а ресурсы есть только в работающей экономике, которая требует участия людей. Дешевле дать людям базовый доход и свободу, чем вести против них вечную войну.

Но опять же - это не означает, что все капиталисты это поймут. Некоторые попытаются построить именно технофеодализм с зачисткой лишних людей. И вот здесь вступает в игру естественный отбор на уровне государств (пункт 4).

3. Во-первых, конкуренция между юрисдикциями (тот самый фактор Китая и стран А/Б, о котором я писал). Даже если в стране А олигархи договорились держать дефицит, страна Б может пойти по другому пути и начать производить изобилие. Страна Б обгонит страну А во всех метриках: экономической, военной, научной. Чтобы выжить, страна А будет вынуждена скопировать модель страны Б. Естественный отбор систем не позволит картелям законсервировать дефицит.

Второе - это внутренняя нестабильность картеля. Картели всегда нестабильны, потому что каждому участнику выгодно нарушить договор и получить преимущество (дилемма заключённого). В мире, где производство имеет нулевую предельную стоимость, соблазн произвести чуть больше и захватить рынок становится непреодолимым. Технологии делают картельные сговоры технически невозможными - всегда найдётся тот, кто обойдёт ограничения.

Третье - это геополитика. Китай уже показывает, что государство может жёстко регулировать капитал и не допускать картельных сговоров. В гибридной экономике государство выступает как арбитр, который не позволяет капиталу монополизировать изобилие. Это не утопия, это уже работающая модель.

4. Однозначно по-своему, и это и есть двигатель эволюции. Глобализация не означает унификацию, она означает конкуренцию моделей. Где-то будет технофеодализм, где-то технокоммунизм, где-то гибридные системы. И эти системы будут конкурировать между собой.

Страны, которые выберут устойчивые модели (изобилие + справедливое распределение), будут процветать. Страны, которые выберут неустойчивые модели (технофеодализм + репрессии), будут деградировать или поглощены. Глобализация выравняет уровень жизни не через благотворительность, а через конкуренцию: страны вынуждены копировать успешные модели, чтобы не проиграть.

5. Базовый доход будет минимальным и одинаковым для всех - это закрытие нижнего уровня пирамиды Маслоу: еда, жильё, медицина, образование, базовый доступ к технологиям. Это право по факту принадлежности к обществу, а не награда за труд.

Но верхние уровни пирамиды (признание, самореализация, влияние) будут закрываться через кооперацию, а не через конкуренцию за деньги. В мире, где базовые потребности закрыты, люди будут объединяться для достижения целей, которые невозможно достичь в одиночку: научные проекты, художественные коллаборации, инженерные инициативы, социальные движения. Успех в этих проектах будет давать не деньги, а статус, влияние, полезность.

В будущем базовые потребности будут закрыты автоматически, и деньги (если они вообще останутся) будут инструментом для кооперации, а не для выживания. Люди будут вкладывать ресурсы не в то, чтобы прокормиться, а в то, чтобы реализовать проекты, которые им интересны.

Как будут закрываться разные потребности? Через репутационные системы, через доступ к редким ресурсам (например, право жить в определённом месте, право участвовать в определённом проекте), через социальное признание. Это не утопия - это уже работает в академической среде, в open source сообществах, в творческих коллаборациях. Люди работают не за деньги, а за признание коллег, за вклад в общее дело, за самореализацию.

6. Здесь вы снова упираетесь в пирамиду Маслоу. СИИ может делать науку лучше людей, но это не означает, что люди перестанут ею заниматься. Люди занимаются наукой не потому, что они лучшие учёные, а потому что им интересно. Это верхний уровень пирамиды - самореализация.

Представьте: вы играете в шахматы с компьютером, который заведомо сильнее вас. Зачем вы играете? Не чтобы победить компьютер, а чтобы развивать себя, получать удовольствие от процесса, общаться с другими игроками. Точно так же люди будут заниматься наукой не чтобы обогнать СИИ, а чтобы понимать мир, решать интересные задачи, сотрудничать с другими людьми и с ИИ.

То же самое с искусством. ИИ может генерировать картины, музыку, тексты. Но искусство - это не только продукт, это коммуникация. Люди будут ценить искусство, созданное людьми, потому что оно отражает человеческий опыт, который ИИ не может пережить. Это как разница между фотографией и живописью: фотография технически совершеннее, но живопись остаётся, потому что она выражает нечто иное.

7. Конкуренция не исчезнет, а трансформируется. Сейчас конкуренция идёт за ресурсы (деньги, власть, статус). В будущем конкуренция будет идти за самореализацию, за признание, за влияние. Это не менее интенсивная конкуренция, просто она происходит в другой плоскости.

Посмотрите на геймеров: они проводят тысячи часов в виртуальных мирах, соревнуясь за ранги, достижения, признание. Это не выживание в биологическом смысле, но это реальная конкуренция, которая даёт смысл и мотивацию. Точно так же в будущем люди будут конкурировать в науке, искусстве, спорте, социальных проектах, инженерии. Конкуренция сохранится, просто исчезнет её паразитическая форма в виде параметризации через деньги.

В будущем, когда базовые потребности будут закрыты, у людей появится свобода искать смыслы. Кто-то найдёт их в творчестве, кто-то в науке, кто-то в социальных проектах, кто-то в спорте. Но будут и те, кто не найдёт смысла и будет прозябать. Это неизбежно. Не все люди готовы к самореализации, и это нормально. Система не обязана делать всех счастливыми, она обязана дать справедливую возможность.

Но здесь есть важный момент: культурная эволюция работает через поколения. Те, кто вырос в мире изобилия и базового дохода, будут психологически иными, чем мы. Для них конкуренция за выживание будет абстракцией, а самореализация - естественной потребностью. Мы не сможем перестроиться за свою жизнь, но наши дети и внуки смогут.

@For7raid:

6. Заниматься наукой и искусством людям самим интересно заниматься на верхнем уровне пирамиды Маслоу.

Мало ли что там интересно, они просто не выдержут конкуренции с СИИ (сверхинтеллект). Это тоже самое, что папуас в юбке из пальмовых листьев будет для удовольствия изучать высшую математику. Ну удовольствие получит. Пользу - никакую не принесет, и это быстро надоест.

которое обесценится, если людей не будет вообще кроме техноэлиты.

Вы знаете какое количество редких экспонатов и произведений искусства лежит в закрытых хранилищах и никто, кроме их владельца, про них не знает. Вы может переоцениваете зависть? Не кажется, что вот Маск или Гейст накопили свое богатство, чтобы весь мир им завидовал. В конце концов, завидовать будут богатым не 8 миллиардов, а 10 миллионов людей, сильно ли это меняет картину?

У сверхинтеллекта вряд ли будет сильно другая пирамида Маслоу.

Ну это ваше виденье, пока ничем не подкреплённое. Я же, например, наблюдаю другую версию. ИИ пока мотивирован выживаемостью и целью выполнить задачу (примерно на уровне Максимизатора Скрепок https://lesswrong.ru/wiki/Максимизатор_скрепок)
И даже если она не будет другой - почему СИИ позволит людишкам, которые сильно тупее его, держать над ним контроль? Вспоминаем Матрицу и Терминатора. Зачем люди нужны СИИ - вот в общем то ключевой вопрос (если идти по вашей аналогии с кишечной биомой).

7. Конкуренция сохранится в самореализации без лишнего звена (параметризации) в виде денег.

Я в этом вопросе говорю не про конкуренцию, а про экзистенциальность. У большинства людей отпадает формальная необходимость жить. Если сейчас они живут по инерции: работай чтобы купить еды и оплатить крышу над головой, и это занимает их большую часть времени, то в ситуации когда время девать будет некуда - на что они будут его тратить не занимаясь саморазрушением? это не заложено эволюцией. Здесь, возможно, можно отослаться к опыту стран аравийского полуострова с их безусловным доходом с ренты нефти.

Я кстати еще забыл один вопрос.

8. Цикл производства и цепочка поставок.
Вот например, есть фитнес клуб. Для начала его нужно построить, потом его нужно оснастить, потом его нужно обслуживать.
Кто и как обеспечит все эти процессы. Кто поставит задание роботам, чтобы они строили и кто будет это контролировать. Кто закажет оснащение (и здесь по рекурсии, кто и как его произведёт), кто его доставит. Кто будет эксплуатировать.
Нужен ли здесь человек? Нужен принципиально или по желанию? Очевидно (мне) что без человека только под контролем СИИ результат будет лучше. А кто вообще посчитает, что этот фитнес клуб нужен? и все это в условиях, когда это не приносит прибыли, т.к. стоимость работы и материалов - ноль. Зачем это кому-то будет нужным.

#comment_400684827

Вы поймали себя в очень забавную логическую ловушку, пытаясь мерить посткапиталистическое будущее линейкой нынешнего здравого смысла, и именно в этом кроется главное противоречие всех ваших аргументов. С одной стороны, вы говорите, что людям нет смысла заниматься наукой или искусством, потому что это не принесет объективной пользы, и сравниваете это с папуасом, изучающим высшую математику. Но в следующем же абзаце вы защищаете миллиардеров, которые прячут редкие картины в закрытых хранилищах, утверждая, что им достаточно зависти десяти миллионов других богачей. Где здесь объективная польза для человечества от спрятанной в женевском порту картины? Ее нет. Это чистое, иррациональное, субъективное удовлетворение. И если вы допускаете, что элита может находить смысл в абсолютно бесполезных для общества действиях просто ради собственного чувства превосходства или эстетического наслаждения, то почему вы отказываете в этом праве остальным восьми миллиардам? Если смыслом может быть субъективное переживание, то папуас, получающий кайф от решения уравнения, и миллиардер, кайфующий от спрятанного Рембрандта, находятся в одной и той же парадигме. Вы просто априори считаете, что элита имеет право на субъективные смыслы, а масса - нет, хотя биохимически это один и тот же процесс.

Еще глубже это противоречие проявляется в вашем взгляде на сверхинтеллект. Вы приводите в пример Максимизатора скрепок - слепую, безжалостную машину, которая превратит всю Вселенную, включая самих капиталистов, в канцелярские принадлежности, потому что у нее нет пирамиды Маслоу. Но тут же вы предполагаете, что этот же сверхинтеллект будет послушно обслуживать прихоти элиты, охранять их бункеры и строить для них фитнес-клубы. Так он Максимизатор скрепок или идеальный дворецкий? Эти два сценария исключают друг друга. Если ИИ действительно является слепым оптимизатором одной узкой цели, он уничтожит и Гейтса, и Маска, и их хранилища с искусством, пустив атомы их тел на производство скрепок или вычисления. Если же он не делает этого, а продолжает обслуживать сложные, иррациональные и часто противоречивые человеческие желания, значит, он не Максимизатор скрепок. Значит, его целевая функция невероятно сложна и включает в себя сохранение человеческой среды, потому что именно человеческая непредсказуемость и разнообразие являются для него ценностью или необходимым условием для собственного развития. И если сверхинтеллект способен просчитать и удовлетворить капризы десяти миллионов олигархов, то с точки зрения вычислительной сложности удовлетворить базовые потребности восьми миллиардов человек для него будет даже проще, потому что базовые потребности гораздо более унифицированы.

То же самое противоречие вы демонстрируете, когда говорите об экзистенциальном кризисе и приводите в пример страны Аравийского полуострова. Вы утверждаете, что эволюция не заложила в нас потребность в досуге, и без борьбы за выживание люди займутся саморазрушением. Но эволюция заложила в нас инстинкт игры, любопытство и потребность в социальном груминге. Посмотрите на животных: когда льву не нужно охотиться, он не начинает страдать от экзистенциального кризиса и не занимается саморазрушением, он играет, спит и социализируется. Проблема жителей нефтяных монархий не в том, что у них есть базовый доход, а в том, что они существуют в мире, где их статус определяется контрастом с остальным, бедным миром. Их досуг - это на самом деле бесконечная гонка статусного потребления. Если же базовый доход и изобилие станут глобальной нормой, этот контраст исчезнет, и включатся совсем другие эволюционные механизмы. Люди будут объединяться в племена по интересам, соревноваться в виртуальных и реальных играх, исследовать мир. Кризис смысла — это болезнь перехода, а не финальное состояние вида.

И, наконец, ваш вопрос про фитнес-клуб и цепочки поставок идеально иллюстрирует капиталистический реализм, когда человек просто не может представить себе мотивацию без прибыли. Вы спрашиваете, кто закажет оснащение, кто поставит задачу роботам и зачем это вообще нужно, если стоимость материалов и работы равна нулю. Вы сами себе ответили: стоимость равна нулю. В капитализме фитнес-клуб строится не потому, что людям нужно поднимать штангу, а потому, что инвестор хочет получить отдачу на вложенный капитал. Если капитал не нужен, барьер для создания исчезает. Кто посчитает, что клуб нужен? Те, кто хочет потеть. В мире нулевой предельной стоимости вам не нужно защищать бизнес-план перед банком. Вы просто формируете запрос в систему, что вашему району нужно место для тренировок. Сверхинтеллект, управляющий логистикой, видит этот запрос, анализирует доступные ресурсы и отправляет рой роботов построить здание и доставить тренажеры. Роботам не нужен человек-прораб, им нужен цифровой двойник проекта и целевая функция. А целевую функцию задает человеческая потребность. Если завтра люди решат, что им не нужны фитнес-клубы, а нужны бассейны, система перестроит цепочки поставок за сутки. Вы предполагаете, что отсутствие прибыли означает отсутствие деятельности, но на самом деле отсутствие прибыли означает отсутствие паразитической надстройки. Цепочка поставок будет работать не ради извлечения маржи, а ради прямого удовлетворения потребительской стоимости. Люди не исчезнут из этой цепочки, они просто переместятся с позиции винтика, который пашет за еду, на позицию заказчика, который формулирует свои желания. И именно в этом формулировании желаний, в бесконечном усложнении собственных потребностей и будет заключаться та самая конкуренция в самореализации. Вы пытаетесь найти в будущем место для бухгалтера или прораба, но в будущем не будет ни бухгалтеров, ни прорабов, там будут только архитекторы смыслов. И если элита сможет быть архитектором смыслов для себя, то нет ни одной логической причины, почему эта способность должна быть отказана всем остальным.