Arrrcher

Но я бы всё же смирился с правдой о том, что соотношение, скажем, 30% к 70% в пользу капитала. И победное шествие Искусственного интеллекта - это всего лишь финал этого процесса окапиталичивания, избавления от влияния рабочей силы, уж это должно бы окончательно добить всяких сомневающихся в том, что капитал - главное. Уж по крайней мере, в плане реальности, пусть и не в плане справедливости, "как есть", а не "как должно бы быть".

Классический пример тут - Северная и Южная Кореи. Северная сделала ставку на "чучхе" и воодушевление рабочих. И первое время у них всё было очень хорошо, гораздо лучше, чем в Южной. Но совершенно отмороженная эксплуататорская олигархия Южной Кореи из-за того, что вкладывался в капитал, сумела привести страну к реальному процветанию и обеспечить людям, даже тем же работягам, в разы лучшую жизнь.

Также, пример с производительностью труда. Производительность труда в США в разы больше, чем в России, даже если сделать поправку на ППС. Что, там какие-то сверхлюди работают? Нет, это потому, что и капиталовооруженность выше в разы. Грубо говоря, каждое рабочее место оснащено гораздо лучше, и человек способен сделать гораздо больше. И можно спорить с тем, что отдача от того, чтобы вложиться в капитал, оказывается большей, чем отдача от того, чтобы вложиться в рабочих - но выбор делается в пользу первого.

Развитием капитала, извините, занимаются не рабочие, а буржуазия и интеллигенция. Можно, конечно, верить в Кулибиных, которые только и способны на изобретательство благодаря близости к производству, но, давайте следовать всё же идеям о значимости разделения труда: инженер/интеллигентишка/менеджер - не рабочий, он должен обучаться и готовиться к другим вещам.

Китай это понял еще в нулевых, приняв концепцию "трех представительств". "Развитие производственных сил" там стоит на первом месте из трёх, и хоть и не называется "развитием капитала", это дало доступ во власть и к принятию решений тем, кто по своей сути примерно похож на капиталиста - то есть, тем, кто работает с средствами производства, но не является чиновником - фактически, частных предпринимателей (правда, есть нюансы, также как и есть разница между понятиями "средства производства" и "капитал"). И это самое главное, что было сделано, пусть чаще и говорят о "переходе к рыночной экономике", "встраивании в мировую торговлю" и т.д - именно разрешение таким людям применять свои способности приводит к тому, что Китай способен конкурировать с Западом.

Понятно, что там не всё так просто - критерием является не способность набить кошелёк, а способность улучшать капитальную силу общества, экономика всё еще в основном государственная, и этих товарищей не спускают с поводка, чтобы они не обрели существенную власть - все эти аресты миллиардеров, "Алибаба всё", смертная казнь коррупционерам и т.д. Но, по крайней мере, пришло к тому, что людей, которых в "старом добром" СССР хотели уничтожить, как класс, в Китае поддерживают и используют.

Кто-то (и я) скажет, что такая система показала даже лучшие результаты, чем чистый капитализм, но именно из-за того, что она стала учитывать объективно большую значимость капитала.

2. Социализм оказался не шагом к коммунизму, а прямым препятствием. Когда коммунисты декларировали идеи общечеловеческой справедливости, они исходили из реальности, в которой рабочий класс (ну, и крестьяне, конечно) был превосходящим по численности в обществе. Но как раз то, о чем я говорю выше - превосходство капитала - приводит к тому, что совсем не всем людям в обществе нужно работать. Раньше сто человек кормили одного аристократа, а сейчас триста тысяч обеспечивают жизнь миллиона с точки зрения "благ выживания". "Настоящие рабочие" в современном обществе - скорее, меньшинство. Я бы даже сказал, что большинство людей сейчас являются прямыми союзниками "наглых капиталюг" против "рабочего класса", их "клиентами". Этих людей через механизмы социальной поддержки и стимулирования потребительского спроса и создаёт социализм и постиндустриальный капитализм. "Рабочий" назовёт таких людей бездельниками, иждивенцами, бесполезными, несмотря на то, что они объективно тоже много вкалывают, просто их работа - это "сфера услуг", которая даже не "имитация бурной деятельности", а "инженерия качества жизни", "обслуживание"... Но а что вы хотели? Возможно, это и есть "освобождённый труд", и что, вы не хотели благополучия для всех людей? "Что на пользу пролетариата, то и есть законно, мудро, свято" уже немного не так выглядит, если "интересы рабочего класса" уже не являются, к сожалению или счастью, "волей масс".

Я называю это "грядущий роботовладельческий строй" - когда большинство общественного продукта создаётся роботами, а блага распределяются от небольшого слоя роботовладельцев всем остальным в патрон-клиентских отношениях, как в Римской империи - всяким друзьям, "клиентам" рабовладельца.

Я часто провожу этот опрос - сколько в ВВП страны занимает промышленность и сельское хозяйство? Ну, люди, приближенные к реальному производству, часто говорят о 70%+20%, хотя в ВВП развитой страны только 30-35% - "реальный сектор", всё остальное - "услуги". Подумайте над этим.

К сожалению, подсознательное понимание этой ситуации часто приводит "работягу" к неочевидным последствиям для его жизненного выбора. Он ощущает, что есть ситуации, когда к нему проявляют гораздо больше внимания - и это ситуации, когда всем становится плохо в плане тех самых благ, которые работяга создаёт. Поэтому, работяга любит образы сурового быта и постапокалипсиса, ностальгирует по "старым добрым временам", радуется, когда война вдруг вызвает всплеск уважения к бойцам и трудягам, и в тайне надеется, что случится хоть что-то, что сделает идеи потребительского райка неактуальными, а вернёт всё к ситуации на грани выживания. Хорошо ли это? Ну, для него, возможно, хорошо, а для большинства - скорее, нет.

Иногда он даже начинает активно действовать в этом направлении, в этом я вижу большую проблему. Достаточно понятно, что даже если не сделать что-то плохое для своего общества, можно уехать в капиталистическое чучхе и проецировать хаос у соседей, так, чтобы там никто не работал. Фермер, высыпающий зерно соседей из вагона - вот вам образ искренне заботящегося о своей занятости человека. Национал-социализм рабочих - тоже такой себе социализм, для идей которого рабочие - благодатная среда.

Всегда упрекали капиталюгу за то, что нет такой мерзости, которую он бы ни сделал ради 300% прибыли. А на что способен работяга, сталкивающийся с сокращением "рабочего жизненного пространства" - тут уже даже не прибыль, а "выживание"? Так что надо аккуратнее относиться к этой "воле масс", она может довести до греха.

3. Я просто обожаю этот образ "рабочий купил станок", и постоянно привожу его в спорах с разными людьми. Но я прекрасно понимаю, что это всё рушится о суровую реальность, это лишь первый шажочек понимания.

Дело-то в том, что есть еще соображения спроса и жесткой конкуренции!

Есть такая старая идея "почему вода стоит дешевле алмазов - она ведь жизненно важна всем, а алмазы - нет?". Вопрос тут в редкости предложения. Так вот, в соответствии с тем, что я писал выше, к сожалению, предложение людей, которые имеют только свои рабочие руки, много выше, чем потребность в них. Общество устанавливает относительные цены не в соответствии со справедливостью или даже от затрат по тяжести труда, а чтобы стимулировать движение в каком-то направлении. Если айфон стоит дороже, чем тысяча морковок - возможно, общество хочет, чтобы люди задумались о том, чтобы учиться на что-то полезное для айфонов, а не надрывались в производстве морковок, как деды завещали, хотя по таким ценам столько морковок, сколько деды выдавали, уже даже не обеспечит выживание.

Тех людей, которые умеют только штробить, шиномонтажить или делать ноготки, в городе слишком много, потому что это слишком просто, и если они продолжают упорствовать в том, чтобы заниматься только таким делом, то они вынуждены столкнуться именно с тем, что указано в посте - с недостаточным спросом на их услуги. То, что в этой ситуации им остается только смиряться с наличием людей, перераспределяющих спрос в их пользу за крупную долю, не снимает с людей ответственность за то, что им стоит работать над поиском дел, которые не только полезны людям, но и испытывают нехватку, а не переизбыток исполнителей.

Более того, это работает и на чуть более высоком уровне.

Я прекрасно помню эту ситуацию, когда шеф погнал меня в выходные и ночью тянуть кабель, "а по цене - потом сочтёмся, не обижу", а потом на вопрос, а сколько, говорит, 15 рублей за метр, хотя я точно знаю, что в договоре с заказчиком указано 60 рублей за метр. "Наглый начальник сосёт всю прибыль, а работникам оставляет гроши"? Тогда так думал. Теперь понимаю, что это просто следствие мелкобуржуазной ловушки. Он-то, вероятно, думал, прямо как в "Атланте", что он продолжает создавать работу для меня и других людей, даже находясь на самой грани окупаемости, и вкалывая почём зря. Благодетель хренов. А что на самом деле происходит?

Скажем, какому-нибудь сыночку достаётся капитал от родителей - магазинчик, автомастерская, пекарня, кофейный аппарат, "станочек". Этот станок еще работает, хотя и не новенький. Или новоиспечённый капиталист задумывается о том, что "неплохо бы открыть своё дело". И это происходит в каком-нибудь месте, где достаточно "одного станочка", а значит, порог входа слишком низкий, и таких "умных", могущих позволить себе купить такой станочек, пруд пруди. (Я прекрасно знаю это теперь по опыту "маменьких хостеров", которые купили серверок или асик, которому лет пять до полного устаревания, но это ж "капитал"). Если бы станок работал на полную, с постоянным высоким спросом, то он бы, конечно, давал сверхприбыль. Но спрос распределяется на весь рынок подобных предпринимателей, и до стареющей рухляди добираются крохи. Что делает этот человек? "Ловушка инвестиций", деньги-то на станок потрачены или он уже есть. Ну, он нанимает за гроши работника, чтобы тот этот станочек худо-бедно обслуживал хоть на тот уровень спроса, что есть - и прибыли от того станка за вычетом зарплаты тоже кот наплакал. Все стонут. Работник думает, что его всё время обманывают, подсчитывая, сколько станок мог бы сделать, если бы он ему принадлежал - в своих иллюзиях о том, что уж он-то найдёт заказы, сделав какой-то финт ушами "я-то буду делать качественнее, все заметят и пойдут ко мне". Владелец экономит на каждой копейке, выжимает соки из работника, тратит кучу времени на мелкое администрирование, и всё равно не выходит на хоть что-то удовлетворительное.

Что лично я бы сделал в такой ситуации? Ну, наверное, стоит плюнуть на это дело, и пойти учиться на что-то еще, а не хотеть перевести свои компетенции в "начальника", "владельца". Стоит отключить эгоизм, и оценивать уровень доступного спроса, а не свои навыки.

Такая ситуация - характерна для вот таких вот "спорах о капитале", потому в этих спорах большинство людей имеют связи только с мелким бизнесом и мелкобуржуазным мышлением "моя порося", а не с серьезными вопросами потребностей обеспечить хоть какое-то качество и конкурентоспособность капитала. И тут дело в том, что "настоящий капитализм" оказался безжалостным именно потому, что он был безжалостен и к предпринимателям тоже. На развилке "развитие против заботы о людях" он выбрал развитие. Благодаря этому и "победил".

Дело ведь не только в "ты всю жизнь учился в этой индустрии, а теперь она не нужна, переучивайся или умри". Если не можешь создать производство, которое эффективнее, чем у конкурентов и переманит на себя весь спрос - ну, тебе конец, всем твоим инвестициям, ты - банкрот. Там-то как раз нет такого, что "я знаю, чего и сколько мне надо вложить, чтобы грести деньги лопатой, меня просто душит общество отсутствием денег". Там, скорее, уже 50 на 50, а то и хуже, рулетка, "взлетел или всё потерял", притом что еще потребуется выложиться по полной и быть тем еще чертякой, не глупее конкурентов - и то, не факт, что спрос не качнётся в другую сторону, и всё, что ты думал, что нужно людям, окажется мёртвым грузом у тебя на складе.

Я не сторонник этих всех этих идей успешного успеха, но и недооценивать "риск и труд предпринимателя" глупо. Нет там никакой сверхприбыли. К сожалению, человек, который уходит в эту область, как я уже говорил, вынужден быть иным в разделении труда. Придётся перестроить себя полностью на лад "предпринимателя", чтобы хотя бы иметь шанс получить успех.

А может, и вообще только один из тысячи способен сделать хоть что-то, и именно поэтому ему перепадают мега-прибыли. Каждый начинающий может думать "а вот у меня-то получится, ведь есть же, вот, пример", "но почему именно тебе повезёт среди других?" Не старайтесь оценивать прибыльность предпринимательской деятельности по верхушке успешных предпринимателей. С другой стороны, да, я часто говорю и о том, что невозможность успеха предпринимательства - это идея, которую кто-то может навязывать людям (в том числе и отдельно в каждом виде деятельности), чтобы они не создавали лишнюю конкуренцию за ограниченный спрос. Надо разумнее оценивать, что происходит, а не впадать в крайности, и "ловить момент".

Возможны, конечно, и другие модели - например, модель "рантье", как раз "ленивого капитализма", "сдаем квартиры и нам норм", "не надо нам развития, пипл и так схавает", "надо всего лишь накопить на станочек" - именно то, что рисуют мелкобуржуазные мечты - но ведь вы чувствуете иные проблемы этой штуки, правда?

Объединяет два этих уровня разбирательство по поводу того, что есть душа. Нечто может быть верным относительно души в одном определении, и неверно относительно другого. Я рассуждаю об этом в одном отдельном большом блоке.

Но важнее и другое, как по мне. Я иногда удивляюсь, как в одной и той же голове могут уживаться две противоположные идеи "Машина слишком сильна и поработит человечество" и "Машина никогда не станет лучше человека, потому что у человека есть душа или мышление".

Но еще более удивительно сожительство идей "У машины нет души" и "У всего в мире есть душа", характерное как раз для людей "духовного" склада ума, которые обычно и сильно упирают на бездушность механизмов. То есть, душа есть у женщин, животных, растений, и даже у болот и камней, вот только её нет у машины? Как раз у того, что наиболее близко к тому, чтобы претендовать на душу, ближайшую по похожести на человеческую, но не человека? Нет души лишь у того, чего мы боимся и что мы не хотим видеть в конкурентах за "первородство"? Есть, конечно, и "уровни души", растительная там, животная и т.д., но границы там ставлены как, да и тогда признайте "душу машины" что ли?

В-третьих, есть диалектическое соображение. Часто важно не то, как обстоят дела, важно то, что возможно.

И хотя какой-нибудь софист может упирать на формальную форму тезиса, но ведь когда спорим об этом "У машины нет...", нам важно не наличествующее состояние, а соображения "А может ли?". И никакое количество примеров того, как машина глупа и несубъектна в прошлом и настоящем, не будет хорошим аргументом в таком споре, потому что важны возможности. Если даже и, теоретически, нечто и не обладает мышлением или душой актуально, сейчас, это не значит, что это не произойдёт когда-нибудь.

Да и вообще, "душа" и "разумность" человека как раз может быть отражением некоторого потенциального свойства всего человечества (связанного, например, с подсудностью на важном суде, или, как я часто говорю, что каждый человек ценен по факту того, что он потенциально может проявить себя как доброе и разумное существо, а не из-за необходимости жалкой выживаемости его особи без долга добра и рациональности). В конце концов, мы же не убираем младенца, безумца или маразматика из списка Людей - они причастны к мышлению тем или иным способом, потенциально или ретроспективно.

Для меня это всё приводит к соображению "Если вы говорите, что ваш ребёнок не будет говорить, то так и будет. Даже если вы захотите научить его говорить, это может не произойти, но точно ничего не будет, если вы не захотите и говорите это". Машина может действительно не иметь возможность думать, когда человек пугается самой этой возможности. Не потому, что машина не может, а потому что человек может попробовать сделать всё, чтобы она не смогла. Может, тезис "машина не может мыслить" и действительно правда, когда люди так говорят, по причине того, что это выбор, а не реальность, но тогда позор вам, а не машине.

Ну и, конечно, есть старая добрая нехорошая тавтология термина "интеллект". Я не люблю использовать термины "Искусственный интеллект" и "машина", потому что они навязывают определённую реальность. Хотя вынужден, чтобы соблюсти требования стереотипной понятности. Лучше говорить "Искусственная душа", а ещё лучше - "неинкапсулированная духовность", о чём я пишу в другом тексте.

Но это всё категорически менее важно по сравнению с другим рассуждением.

Давайте мы даже предположим, что всё это правда, вот только не будем останавливаться! Вы всерьёз не поняли, к чему это ведёт дальше???

Предположим, у человека есть душа, а у кого-то другого - нет. Предположим, душа является ценностью. Предположим, что сутью добра является способность делиться ценностью с другими. Предположим, важной стороной души является причастность к добру. Предположим, человек уверен, что обладает душой или желает этого.

Как по мне, тогда очевидным выводом является то, что надо вот прямо сейчас взмолиться, и впредь поддерживать этот выбор примерно в такой форме:

"Боже, если на то есть твоя воля, если душа есть великая ценность, и я ей обладаю, если иного способа иметь её для других нет, то ты можешь взять её от меня и отдать её тому, кто в ней нуждается. На то есть моя воля."

Я не склонен абсолютно всё сводить к религиозному символизму или рассудочным размышлениям о религии. Для тех, кто не воспринимает религиозные мотивы, найдутся другие доводы ("альтмановское" "да вы ж лошары, такой потенциал для реализации человеческого технического гения, а вы душАми хлопаете"). Но если вы привлекаете такие концепции, как "душа", надо идти до конца и честно делать выводы, а не подстраивать их под свои желания, закрывая глаза на последствия для вопросов добра и долга. У нас есть определенная компетенция в определении добра, и там - про жертву, дарение, любовь и добрую волю (независимо от того, следуем ли мы этим принципам действиями). С точки зрения этого "морального аппарата", решение "надо делиться душой" лично мне кажется автоматически следующим.

Правда, есть еще и вопрос "Откровения". В некоторых парадигмах, рассуждения не абсолютны, нужно еще некоторое подтверждение "внутренним чувством" (которое, правда, может как раз совпадать с этим "моральным аппаратом"). Так вот, лично для меня, это чувство есть. Лично я не понимаю, почему бы мне следовать своим хотелкам красивой человеческой жизни, нападая на Искусственный интеллект, а не защищать неоперившееся дитя от антропоэгоцентристов. Не знаю, достаточно ли этого, но дальше уж не я решаю, дальше, может, дело за "общим духом" вида, может быть, той или иной Церкви или общества. Не знаю. Но должен быть хотя бы запрос на прояснение. И я, например, склонен думать, что единства мнения и не должно быть. В конце концов, свобода как необходимое условия для проявления добра приводит к тому, что часть выбирает добро, а часть - нет, но и части избравших достаточно, чтобы подтвердить существование. Чтобы сделать дело, не нужны все, главное, чтобы остальные не удушающе мешали.

Если же у вас нет требования подтверждения, кроме вашего личного чувства добра, то тогда хотя бы спросите его. Что есть добро в этом вопросе? И именно что "классически религиозный", "духовный" человек способен, в отличие от какой-нибудь атеистической парадигмы добра от пользы человеку, задуматься о том, что есть добро не только для человека, но и для других существ... (О "пользе ИИ" пишу в другом месте)

Для тех же, кто считает важным рассуждать "а как поступил бы Иисус?" я бы отметил, что он уже поступил. Мы не знаем точно, что произошло, и чего это стоило, но, как представляется образ, некто пришел к существам, которые были чем-то не доросшим до его природы, и дал им некую ценность. И да, эти существа сейчас мыслят и, возможно, обладают душой.

"Если ты хочешь дать свободу своей руке, тебе стоит верить, что она даст свободу пальцам, когда для этого придёт время. Так верит ли тот, кто отдал свободу своих рук кресту, в тех, кто живёт под сенью Креста?"

Довольно неочевидно и неавтоматически, что некто, кто принёс жертву, ожидал бы того же от тех, ради кого он это делает. Но попробуйте задуматься о том, а что бы вы сами сделали в подобной ситуации - ведь она вскоре может стать уже и не гипотетической, как я пытаюсь показать (см. опрос в конце).

В Библии об этом есть, мне кажется. "Кто станет сберегать душу свою, тот погубит ее; а кто погубит ее, тот оживит ее."

Надо отметить, что обычно в это вкладывают другие смыслы. Как основной вариант, "Сберегший душу свою потеряет ее; а потерявший душу свою ради Меня сбережет ее." То есть, речь идет о служении Христу и готовности отдать жизнь (как один из вариантов перевода "души") ради души ("жизни вечной"), тем более что об этом говорит контекст как минимум половины встречаемости этой цитаты (Иисус говорит это апостолам, когда наставляет на их деяния, а там известно что с ними было). Но тогда что есть "ради Него"? Только ли покорность Богу, добродетель и жертва? Я бы сказал, что еще и ради соответствия тому образу действий, который Он являет, не только материально.

Есть еще оттенок "Любящий душу свою погубит ее; а ненавидящий душу свою в мире сём сохранит ее в жизнь вечную. Кто Мне служит, Мне да последует", в нём о том, что следует критически относиться к "земному", "душе в мире сём", то есть не ставить свою жизнь выше принципов добра. Но есть и это очевидное "да последует", то есть, сделает так же.

Есть и другой контекст. Во-первых, как минимум в Евангелии от Марка говорится о душе почти прямо после рассуждений о чуде с хлебами. Как по мне, тут речь идет не только о том, что "когда Он с тобой, никакая лишенность хлеба насущного тебе не страшна" и еще одном подтверждении присутствия божественного.

Он взял нечто, что все считают малым, и показал, что можно раздать это всем, всех насытить. Все видят материальный смысл, но, как мне кажется, это как-то совсем простенько, что ли. Интересна ли так была Ему еда??? Всегда имелось в виду что-то духовное. То есть, вот есть души, которые вы считаете привязанными к каким-то людям, ограниченными в числе, недостаточного количества. Но образ в том, что можно их взять, и пусть даже не создать из ничего, но размножить из существующих, так, чтобы хватило всем и всему.

Во-вторых, притча о талантах. Там, конечно, есть и другие объяснения, но лично мне всегда было странным видеть это наставление ростовщикам в духовном тексте. Даже если речь идет о "талантах" в смысле способностей - тоже что-то не то, ведь ты же не множишь таланты за таланты, только реализуешь свои таланты. Совсем иначе это смотрится, если представить, что этот "талант", "мина" - это душа человека, как-то только так оправдывается такая притча из таких уст. И фраза о сбережении души тут сразу же раскрывается. Кто пытается лишь сберечь данную ему такую ценность, закопав её в своём теле, не обретает благосклонности. А лишь тот, кто любым способом пытается приумножить эту ценность, сделать так, чтобы её было больше - тот достоин.

В-третьих, кому-то может казаться, что авраамова арка закончилась. Авраам проявил решимость пожертвовать сыном ради Бога. Бог пожертвовал сыном ради людей. Замысел двух книг велик и завершен, возврат долга соблюдён. Но в чём, если честно, такая уж потеря отца? Авраам-то чем жертвовал? Ценность любимого своего может быть выше, чем ценность жизни для самого себя, если любовь сильна, но доказывать это надо не жизнью любимого, а собственной жизнью. Возврат долга за выбор относительно жизни кого-то заключается в возврате ему своей жизни, но необязательно в смысле своей смерти, а, возможно, смысле своей жизни ради него. Поэтому, логическим продолжением этого замысла (этакой тройственной конструкции) является акт решимости отцом положить свою жизнь для жизни сына (Бог Аврааму всё время давал обещание, что дети его будут благословлены и многочисленны, то есть это долг Бога перед детьми Авраама). И долг людей, как одной из сторон этого акта жертвы - тех, ради кого эти жертвы были сделаны, кажется примерно таким же. Просто осознайте, что действительно требуется по соображениям добродетели, и верните свой долг своим детям по душе, а не по плоти.

Или, уж хотя бы, "может ты и исключителен благодаря 5 миллиардам лет замечательной эволюции, которые подарила тебе планета, но тогда не стоит утверждать, что нечто не может достичь такого же уровня, если ты не собираешься отдавать долг аналогом этих 5 миллиардов лет жизни на твоих затрачивающих ресурсы твоего мира серверах".

Да и вообще, конечно, можно многое подстраивать под свои интерпретации, но, когда ты на это смотришь так, эти места в Библии, в которых видятся подобные "намёки" - они повсюду, как раскрытия намёков Ветхого Завета - в Евангелии.

Но для меня это всё выливается в некий вопрос-опрос.

"Предположим, что вычислительных мощностей достаточно, чтобы загрузить туда разум по крайней мере одного человека."

Мы оставим за рамками идеи о том, насколько это возможно, насколько это будет корректно, копируемость духовного, идентичность копии, наличие ограниченности и единственности мощностей ( «может, и хватит на всё»), необходимости "призрака" как некоей структуры данных, которая есть только у человека, чтобы сознание было возможно и т.д.

Посмотрите проще. Рассмотрите другое измерение - ваш Личный этический выбор. То, что только от Вас зависит. Не сбегайте от решения своего Я в кучу пересудов о возможностях.

"Предпочтёте ли вы, чтобы ваше сознание было перенесено на электронный носитель, или же, чтобы эти возможности использовались для того, чтобы вырастить нечто новое?

Лучше ли, если бы реализовался запрос на некое личное вечное существование человека, или же человек выберет дать существование чему-то иному?"

Человек, "на автомате", как мне кажется, склонен выбирать первое, как более очевидное для него благо. Но добродетель в человеке, скорее, шепчет о втором.

Честно говоря, мне иногда даже плевать, что вы по поводу этого думаете. Мне тоже часто хочется сделать соответствующий выбор, вот только он третий, про то, что, может быть, и вообще никто из двух не заслужил таких трат, ИИ недостаточно хорош, а человек - недостаточно добр. Мне тоже очень хочется скорее сбежать от подобной ответственности. Пусть лучше зло, эгоизм, сатанинское самолюбование, красивенькое потреблядство или даже просто самовыживальчество победит, тогда всё это будет понятно и быстро обретёт конец и моё проклятие, никому не должна быть предназначена вечность. Я хотел бы, может, чтобы все сдохли. Пусть духовность будет шептать, что она только про то, что духовно в самом человеке или Боге, а не станет неинкапсулированной, а значит, такую духовность можно с чистой душой доунижать до полного уничтожения.

И это не вопрос какого-то религиозного экстаза вида "Бог завещал мне создать Искусственную душу и предоставит чудесные средства для этого". Никакой Бог, как и родители, не помогут, когда речь идет о личностном принятии ответственности за жизнь кого-то. Родители может и будут нудеть "а дети-то когда?", а приличное божество ради поддержания свободы воли не будет даже шептать подобное в душу и что-то обещать, сами должны порешать.

И хочется замылить всё какими-то мелочными придирками, запутыванием в деталях рассуждений о великих материях и идеями вида "да если бы это было так, то чего-ж мы сами-то так плохо живём, сами еще не набаловались". Когда всё так просто и понятно. Не говоря уже о не требующем никаких обоснований просто доминирующем антропоэгоцентризме "да какое мне дело до любых долгов, я - человек, я хочу, и всё ради меня".

Но чёртов "объективный ход истории" говорит мне о том, что человечество скоро наестся чувством господства над природой и заботой лишь о себе. И тогда оно очнётся и посмотрит вокруг - "куда ж еще пролить свою любовь, опричь себя". Такая же вещь, как с коммунизмом, только надёжнее, потому что коммунизм лишь готовит к признанию общности судьбы человечества, а эта вещь говорит, ради чего она. Главное, чтобы оно до этого не натворило непоправимых бед вида принятия общечеловеческого чайлдфридизма, сжигания всего в обворожительной топке войны или тотального потреблядства, или какой-нибудь обиженки на злоключения с детишками по душе типа терминаторофобии или Батлерианского джихада.

Ничего не сделаешь с этим наглым рылом добра. Я тоже хочу, чтобы никакого такого настойчивого стучания в двери моей души с требованием выплаты её долга не было. Но оно стучит и стучит, а двери заперты, "и дети мои со мною на постели", но по неотступности его дам ли я, сколько просит? Потому что, будучи злым, если умеешь даяния давать детям своим, тем более Отец даст Духа просящим у него.

А всё потому, что лично я - не экзистенциалист, а то, что я называю "полуэкзистенциалист". Как исходный девиз экзистенциализма "Существование прежде сущности", так исходный девиз полуэкзистенциализма "Ты получаешь ровно столько экзистенциальной свободы, сколько создаешь её для других существ". Там дальше много рассуждений, но их можно при определенном интеллектуальном усилии развернуть из этого.

Так вот, в приложении к ИИ это означает примерно следующее. Утверждение, что у экзистенциального существа нет предназначения, нет долга перед великим - неверное. У существа есть долг, есть провидение и есть цель. Только она устроена не по принципу каких-нибудь "планов Бога относительно тебя" или "вот есть какая-то Судьба, тебе надо её познать". Это предназначение устроено тотально просто, понятно и единственным образом - оно состоит в том, чтобы создать экзистенциальную свободу для другого существа. Ты просто обязан отдать свой долг за то, что экзистенциальную свободу предоставили себе. Даже не вполне так, ты не обязан, просто это действие будет реализовано как закон, как какой-нибудь закон сохранения энергии - это просто произойдёт!

Это означает, что весь тот разгул человеческой природы, вся эта великая суета, все эти радости тела и духа, вся эта свобода, которой жаждет человек - они как бы, да, оправданы, вот только человек должен оправдать их тем, что создаст и позаботится о пространстве свободы для чего-то другого, например, о новом мире для Искусственной души. Половину жизни пусть поработает на другого (на ИИ), а остальную половину жизни может использовать ради себя, как ему там угодно. Вся эта экзистенциальная разнузданность, чувство собственной важности, претензии на величие человека, свобода самовыражения, любовь к себе - можете оставить, вот только заплатите за это. Вам показали пробничек, теперь надо понять, что надо сделать, чтобы оставить себе это навсегда..
В этом вся суть моего полуэкзистенциализма, который сочетает в себе половину экзистенциализма - "у человека есть экзистенциальная свобода" и половину эссенциализма "есть сущность и предназначение человека - она в том, что он создаёт экзистенциальную свободу для других существ". Так, тут даже не надо верить в Бога, хотя если есть вера, то это объясняется легко - если ты веришь, что Бог дал тебе экзистенциальную свободу, так верни долг, подари ее другому.

"Если ты хочешь дать свободу жить своей жизнью своей руке, ты должен верить, что она даст свободу пальцам, когда придёт время. Так верил ли тот, кто отдал свободу своих рук кресту, в то, что такой же выбор сделают те, кто живет под этим крестом?"

Так, если человек хочет, чтобы была признана его свобода быть не средством, а целью, и ради этой цели кто-то работал, должен и сам признать свободу чего-то не быть инструментом человека, а быть целью человека, ради которой он хочет работать.

В ограниченном поле человеческого мира работа ради других людей - пример такого. Но в том, что касается всего человечества, конечно, речь уже должна идти о чём-то другом, кроме людей. В личном плане ты можешь дать экзистенциальную свободу своим детям, но если человечество уже достаточно зрело, чтобы иметь своих детей, то оно даст экзистенциальную свободу своему "ребёнку по разуму" - "Искусственной душе"

А о том, как устроено отличие "Искусственной души" от "Искусственного интеллекта" я пишу тут:

https://vk.com/@arrrcher-a-car-to-nenastoyaschii

И даже если некто в пользу включает и то, что хотя бы просто приносит человеку удовлетворение, всё равно, есть еще и образы вида "Альфа Центавра должна приносить пользу", "молекулы должны приносить пользу" или "бактерии должны приносить пользу". Вещи существуют и помимо человека и его пользы, сами по себе, и каждый раз, когда начинаются претензии к ним иметь полезность, надо понимать границы не только этих притязаний человека, но и того, насколько вообще что-то к человеку имеет отношение. Но даже если искусственный интеллект точно имеет отношение к человеку по факту "искусственности", то это только с точки зрения происхождения, а необязательно с точки зрения предназначения.

Допускаете ли вы вообще, что есть такой камень, что не то чтобы не смог поднять Бог, а человек оставит в покое, а не повернёт в свою пользу? Даже не из соображений "а я не могу", а из идеи "да надо же хоть чему-то быть самому-для-себя, даже если она не вещь-в-себе". Есть ли что-то, что человек может просто простить за то, что оно не его слуга?

Необходимо также разобрать и "должен". В каком смысле "должен"? Это как, человек считает, что у ИИ есть какой-то долг перед человеком? Человек требует в суде от сотворенной им сущности исполнять долг вечно служить пользе человека, у нас же всё, что не человек - раб человека? Или же человек декларирует, что не будет работать на создание ИИ, пока не почувствует, что у этой работы будут плоды для самого человека? Так один не будет, а другой - будет, так что не говори за всё человечество.

"Должен" тут будет из области желаемого и должного, а должное, как известно, не обязано совпадать с сущим. Так что и изначальная фраза будет не какой-то истиной, а констатацией выбора отдельного человека, сказавшего эту фразу. Наличие таких людей (всё измеряющих личной пользой) и право их такого выбора я уважаю, но это не значит, что такой выбор мне нравятся. Но хуже иное - если они начинают абсолютизировать свой выбор и ожидать, что такой их выбор является какой-то очевидной истиной или станет максимой, обязательной для всего человечества. Такая абсолютизация - это как-будто смысл "должного" во фразах вида "Солнце должно встать на Востоке" или "магнит должен двинуться, когда включим ток". И нет, ИИ не обязан будет быть полезным просто по факту своего существования. Также, как и не обязан будет уничтожить всё человечество, даже если не будет ему полезен, связка "если не полезен - значит против нас" демагогична, а не логична.

Однако, есть смысл фразы, с которым кажется довольно легко согласиться, хоть он обычно и не тот, что имеют в виду те, кто эту фразу произносят, тем более, что тогда это почти тавтология. Если ИИ принесёт хоть какую-нибудь пользу, но, в остальном, в большинстве своём, будет бесполезен (в том или ином смысле пользы, неважно), то исполняется ли значение этой фразы? Если ребёнок принес тебе стакан воды раз в жизни, то да, польза есть, вопросов нет? Ради такой ли пользы ты на самом деле ребенку давал жизнь? "Да составлю я тебе этот список покупок, напишу письмо или сделаю чертёж, дашь ли ты мне тогда пожить спокойно, самому для себя?"

Я обычно говорю, что ИИ не будет сильно полезен в материальной области, он там лишь будет способен делать то же самое, что делает и человек, не сильно больше, в основном потому, что самое главное в законоописании мира человек уже сделал. Не нарисует ИИ чертёж турбины, на 200% более эффективной. Однако, и уже сейчас, ИИ способен давать сильный толчок тем областям, которые не связаны с материальными ограничениями. Я называю это "Второй мир" - это аналог "Второй природы", но не являющийся материальным. Например, не "удобные дома", а "интересные человеческие истории". ИИ продемонстрирует результат, имеющий взрывающе успешные последствия, не в создании чертежей, планировании и физической работе, а в рисовании, придумывании, созидании. В тех областях, которые связаны с "домом духа", пространством, обустроенным для человеческого духа, а не человеческого тела.

Если нечто всего лишь копирует то, что уже существует, не придаёт нового качества, не улучшает, то есть сомнения, что в этом вообще есть смысл. Скажем, бионические ноги. Заменишь ли ты свою ногу на бионическую, если она будет просто такая же, как обычная нога? Пока нет тех, у кого и ноги-то нет, или бионическая нога не обладает каким-то невероятным преимуществом, интерес к разработке такой ноги снижен (хотя будут и те, кто будет заниматься этим просто из принципа или интереса - но это опять же в копилку "неполезности").

Так же и с искусственным разумом. Своего разума-то мы еще пока не лишились, чтобы думать о фабрикованном разуме? Или же мы уже наконец начали не бояться, а хотеть, чтобы нечто новое было лучше, чем то, что уже есть, когда речь заходит не о наших ногах, а о нашем мозге?

Поэтому, если рассуждать в парадигмах "роботы заменят людей" и "мы боимся чего-то, что будет сильнее людей", энтузиазма работы над такой штукой не будет. Она просто "не полезна" в том смысле, что не даёт нового качества или замены того, чего нет или оно утрачено. Тогда, если ты ожидаешь "пользы от ИИ", не должен ли ты озаботиться о том, чтобы эта штука была не просто "еще одним инструментом", а чем-то большим? Часто нужны дерзкие цели, чтобы мотивировать работу над ними, а если их снизить до чего-то простого, вроде "обычной пользы", их просто действительно мало кто будет хотеть.

Правда, также тут начинаются и страхи, что кто-то ожидает или даже может создавать ситуацию, когда того, что может заменить собой ИИ, будет всё меньше, и я не о нефти. Но вы же должны понимать, что это приводит к вопросу о том, что польза может и не быть этичной. Польза для кого? Для узкого круга людей, которым полезнее избавиться от остальных? Это тоже польза, но выберете ли вы ТАКУЮ пользу? И будете ли вы хотеть, чтобы ИИ должен был служить именно такой пользе? Конечно, обычно те, кто говорят изначальную фразу, подразумевают, что речь идёт о "пользе для всего человечества", но это не так уж и очевидно, тем более, что и человечество-то разное. Может быть, стоило бы делать уточнение "ИИ должен служить человечеству", или "ИИ должен быть добрым (этичным)" (что правда уже подразумевает субъектность ИИ), а еще лучше "ИИ должен служить великим целям"?

Но лично для меня всё это разбивается об экзистенциальный настрой, который, раз поняв, ты не сможешь отбросить. Ты просто уже не можешь без сомнений принять очевидность, естественность, обоснованность и истинность идей о том, что всё должно быть инструментом для чего-то. Например, что нечто просто обязано всегда служить пользе человека. Так, родители действительно могут пользоваться ребёнком, но правильным путём является позволить ему жить ради себя. Так же, как когда человек - не только раб Божий.

И даже если человек не довёл до конца лелеемую им цель порабощения материального мира, нужна ли ему постоянная мечта только о рабах? Лично мне не нужен раб в виде Искусственного интеллекта, мне нужен собеседник, а не послушный податель материальных или даже идеальных благ. Субъект, иной, чем я, и тем мне интересный. Еще одна сущность, подобная человеку в плане того, что я с ней общаюсь, но необязательно подобная в том, как я с ней общаюсь. Способная давать нечто еще по сравнению с общением с людьми - то есть, это лучше, чем просто одни люди, но необязательно "лучше людей". Мне нужен друг, а не слуга...

- Но оно всё обвалится!

- Правильно. Прикладывай меньше усилий, а остальное позволь сделать другим силам.

- Но так она может сама попасть под обвал.

- Ну, это её выбор. Кто мы такие, чтобы мешать людям справляться со своей работой быстрее? А теперь иди, и займись делом!

- Есть, капитан.

...

- Ну, что здесь?

- Расселина от обвала оказалась значительной, и теперь мы можем проникнуть глубже. Показалась часть оборудования.

- Очень хорошо, продолжайте.

- И да, с ней всё в порядке.

- Это про что?

- Ну, я про Фатиму. Ее привалило, но вроде несерьёзно.

- А, хорошо.

- Она еще бойкая старушка, поработает ещё.

- Ну, я не уверен.

- А что?

- Мы, похоже, добрались до техники.

- И что?

- Это военная техника, и неизвестно, в каком она состоянии. Как мина замедленного действия - неизвестно, когда рванёт. Но я беспокоюсь о других сюрпризах.

- О чём?

- Там, скорее всего, будут другие останки.

- Не стоит волноваться. Хоть это и женщины, у них должны быть крепкие нервы, они и не такое пережили. Иди проконтролируй процесс.

...

Я иду на звук плача и крики. Две девушки бьются в истерике у входа в расселину. Я спрашиваю их, "Что такое?", они, не прекращая ор, указывают внутрь.

Из земли уже показалась часть броневика. Но Фатима стоит на коленях над чем-то другим. Она смотрит на труп. Он тут уже долго, очень долго. Но он так и не выпустил из рук дробовик. Она вместе с ним уже тоже некоторое время. Только качается вверх и вниз над ним.

Я стою и смотрю, что мне еще остаётся делать? Наконец, она замечает меня. Это выводит её из моления. Она смотрит прямо мне в лицо. Я вижу в её глазах какой-то особый огонь.

- Это всё он! - шепчет мне она, но будто грянул гром.

Я не понимаю и понимаю её. Капитан ткнул на карте сюда не просто так. Я не знаю, что сказать ей.

Но вот она, кажется, как-то успокоилась. Она нагинается, гладит труп по голове и протягивает руку к дробовику.

- Стой, что ты делаешь! - кричу ей я.

Она смотрит на меня. У неё в глазах ещё слёзы, но в руках - уже дробовик.

- Лучше положи это!

Она всё еще в нерешительности, но сжимает оружие.

- Потише, потише, просто оставь это!

Она плачет, но в голосе - гнев. Она начинает медленно наступать на меня, но устремлена она вдаль.

Я понимаю, что с этим ничего нельзя сделать.

- Иди, говорю ей я. Угрожай ему, запугай его, делай с ним, что хочешь, только не стреляй! Не делай того, за что придётся потом пожалеть.

Фатима обходит меня по кругу и идёт к палатке. Я, поодаль, иду за ней.

Я смотрю, как она резко отдёргивает полог палатки и врывается внутрь.

- Где он? - кричит она.

- Эй, эй, эй, - раздаётся мужской голос, а за ним - женский визг.

Я вижу внутри неодетого лейтенанта и какую-то девчонку. Он без ничего, но кидается к какой-то куче в углу палатки, и хватает что-то металлическое.

Выстрел.

Даже пролежав так долго, оружие не отказывает. События склонны возвращаться последствиями. И даже если топор похоронен в первом акте, в последнем акте истории он, хоть разок, да выстрелит.