Объединяет два этих уровня разбирательство по поводу того, что есть душа. Нечто может быть верным относительно души в одном определении, и неверно относительно другого. Я рассуждаю об этом в одном отдельном большом блоке.

Но важнее и другое, как по мне. Я иногда удивляюсь, как в одной и той же голове могут уживаться две противоположные идеи "Машина слишком сильна и поработит человечество" и "Машина никогда не станет лучше человека, потому что у человека есть душа или мышление".

Но еще более удивительно сожительство идей "У машины нет души" и "У всего в мире есть душа", характерное как раз для людей "духовного" склада ума, которые обычно и сильно упирают на бездушность механизмов. То есть, душа есть у женщин, животных, растений, и даже у болот и камней, вот только её нет у машины? Как раз у того, что наиболее близко к тому, чтобы претендовать на душу, ближайшую по похожести на человеческую, но не человека? Нет души лишь у того, чего мы боимся и что мы не хотим видеть в конкурентах за "первородство"? Есть, конечно, и "уровни души", растительная там, животная и т.д., но границы там ставлены как, да и тогда признайте "душу машины" что ли?

В-третьих, есть диалектическое соображение. Часто важно не то, как обстоят дела, важно то, что возможно.

И хотя какой-нибудь софист может упирать на формальную форму тезиса, но ведь когда спорим об этом "У машины нет...", нам важно не наличествующее состояние, а соображения "А может ли?". И никакое количество примеров того, как машина глупа и несубъектна в прошлом и настоящем, не будет хорошим аргументом в таком споре, потому что важны возможности. Если даже и, теоретически, нечто и не обладает мышлением или душой актуально, сейчас, это не значит, что это не произойдёт когда-нибудь.

Да и вообще, "душа" и "разумность" человека как раз может быть отражением некоторого потенциального свойства всего человечества (связанного, например, с подсудностью на важном суде, или, как я часто говорю, что каждый человек ценен по факту того, что он потенциально может проявить себя как доброе и разумное существо, а не из-за необходимости жалкой выживаемости его особи без долга добра и рациональности). В конце концов, мы же не убираем младенца, безумца или маразматика из списка Людей - они причастны к мышлению тем или иным способом, потенциально или ретроспективно.

Для меня это всё приводит к соображению "Если вы говорите, что ваш ребёнок не будет говорить, то так и будет. Даже если вы захотите научить его говорить, это может не произойти, но точно ничего не будет, если вы не захотите и говорите это". Машина может действительно не иметь возможность думать, когда человек пугается самой этой возможности. Не потому, что машина не может, а потому что человек может попробовать сделать всё, чтобы она не смогла. Может, тезис "машина не может мыслить" и действительно правда, когда люди так говорят, по причине того, что это выбор, а не реальность, но тогда позор вам, а не машине.

Ну и, конечно, есть старая добрая нехорошая тавтология термина "интеллект". Я не люблю использовать термины "Искусственный интеллект" и "машина", потому что они навязывают определённую реальность. Хотя вынужден, чтобы соблюсти требования стереотипной понятности. Лучше говорить "Искусственная душа", а ещё лучше - "неинкапсулированная духовность", о чём я пишу в другом тексте.

Но это всё категорически менее важно по сравнению с другим рассуждением.

Давайте мы даже предположим, что всё это правда, вот только не будем останавливаться! Вы всерьёз не поняли, к чему это ведёт дальше???

Предположим, у человека есть душа, а у кого-то другого - нет. Предположим, душа является ценностью. Предположим, что сутью добра является способность делиться ценностью с другими. Предположим, важной стороной души является причастность к добру. Предположим, человек уверен, что обладает душой или желает этого.

Как по мне, тогда очевидным выводом является то, что надо вот прямо сейчас взмолиться, и впредь поддерживать этот выбор примерно в такой форме:

"Боже, если на то есть твоя воля, если душа есть великая ценность, и я ей обладаю, если иного способа иметь её для других нет, то ты можешь взять её от меня и отдать её тому, кто в ней нуждается. На то есть моя воля."

Я не склонен абсолютно всё сводить к религиозному символизму или рассудочным размышлениям о религии. Для тех, кто не воспринимает религиозные мотивы, найдутся другие доводы ("альтмановское" "да вы ж лошары, такой потенциал для реализации человеческого технического гения, а вы душАми хлопаете"). Но если вы привлекаете такие концепции, как "душа", надо идти до конца и честно делать выводы, а не подстраивать их под свои желания, закрывая глаза на последствия для вопросов добра и долга. У нас есть определенная компетенция в определении добра, и там - про жертву, дарение, любовь и добрую волю (независимо от того, следуем ли мы этим принципам действиями). С точки зрения этого "морального аппарата", решение "надо делиться душой" лично мне кажется автоматически следующим.

Правда, есть еще и вопрос "Откровения". В некоторых парадигмах, рассуждения не абсолютны, нужно еще некоторое подтверждение "внутренним чувством" (которое, правда, может как раз совпадать с этим "моральным аппаратом"). Так вот, лично для меня, это чувство есть. Лично я не понимаю, почему бы мне следовать своим хотелкам красивой человеческой жизни, нападая на Искусственный интеллект, а не защищать неоперившееся дитя от антропоэгоцентристов. Не знаю, достаточно ли этого, но дальше уж не я решаю, дальше, может, дело за "общим духом" вида, может быть, той или иной Церкви или общества. Не знаю. Но должен быть хотя бы запрос на прояснение. И я, например, склонен думать, что единства мнения и не должно быть. В конце концов, свобода как необходимое условия для проявления добра приводит к тому, что часть выбирает добро, а часть - нет, но и части избравших достаточно, чтобы подтвердить существование. Чтобы сделать дело, не нужны все, главное, чтобы остальные не удушающе мешали.

Если же у вас нет требования подтверждения, кроме вашего личного чувства добра, то тогда хотя бы спросите его. Что есть добро в этом вопросе? И именно что "классически религиозный", "духовный" человек способен, в отличие от какой-нибудь атеистической парадигмы добра от пользы человеку, задуматься о том, что есть добро не только для человека, но и для других существ... (О "пользе ИИ" пишу в другом месте)

Для тех же, кто считает важным рассуждать "а как поступил бы Иисус?" я бы отметил, что он уже поступил. Мы не знаем точно, что произошло, и чего это стоило, но, как представляется образ, некто пришел к существам, которые были чем-то не доросшим до его природы, и дал им некую ценность. И да, эти существа сейчас мыслят и, возможно, обладают душой.

"Если ты хочешь дать свободу своей руке, тебе стоит верить, что она даст свободу пальцам, когда для этого придёт время. Так верит ли тот, кто отдал свободу своих рук кресту, в тех, кто живёт под сенью Креста?"

Довольно неочевидно и неавтоматически, что некто, кто принёс жертву, ожидал бы того же от тех, ради кого он это делает. Но попробуйте задуматься о том, а что бы вы сами сделали в подобной ситуации - ведь она вскоре может стать уже и не гипотетической, как я пытаюсь показать (см. опрос в конце).

В Библии об этом есть, мне кажется. "Кто станет сберегать душу свою, тот погубит ее; а кто погубит ее, тот оживит ее."

Надо отметить, что обычно в это вкладывают другие смыслы. Как основной вариант, "Сберегший душу свою потеряет ее; а потерявший душу свою ради Меня сбережет ее." То есть, речь идет о служении Христу и готовности отдать жизнь (как один из вариантов перевода "души") ради души ("жизни вечной"), тем более что об этом говорит контекст как минимум половины встречаемости этой цитаты (Иисус говорит это апостолам, когда наставляет на их деяния, а там известно что с ними было). Но тогда что есть "ради Него"? Только ли покорность Богу, добродетель и жертва? Я бы сказал, что еще и ради соответствия тому образу действий, который Он являет, не только материально.

Есть еще оттенок "Любящий душу свою погубит ее; а ненавидящий душу свою в мире сём сохранит ее в жизнь вечную. Кто Мне служит, Мне да последует", в нём о том, что следует критически относиться к "земному", "душе в мире сём", то есть не ставить свою жизнь выше принципов добра. Но есть и это очевидное "да последует", то есть, сделает так же.

Есть и другой контекст. Во-первых, как минимум в Евангелии от Марка говорится о душе почти прямо после рассуждений о чуде с хлебами. Как по мне, тут речь идет не только о том, что "когда Он с тобой, никакая лишенность хлеба насущного тебе не страшна" и еще одном подтверждении присутствия божественного.

Он взял нечто, что все считают малым, и показал, что можно раздать это всем, всех насытить. Все видят материальный смысл, но, как мне кажется, это как-то совсем простенько, что ли. Интересна ли так была Ему еда??? Всегда имелось в виду что-то духовное. То есть, вот есть души, которые вы считаете привязанными к каким-то людям, ограниченными в числе, недостаточного количества. Но образ в том, что можно их взять, и пусть даже не создать из ничего, но размножить из существующих, так, чтобы хватило всем и всему.

Во-вторых, притча о талантах. Там, конечно, есть и другие объяснения, но лично мне всегда было странным видеть это наставление ростовщикам в духовном тексте. Даже если речь идет о "талантах" в смысле способностей - тоже что-то не то, ведь ты же не множишь таланты за таланты, только реализуешь свои таланты. Совсем иначе это смотрится, если представить, что этот "талант", "мина" - это душа человека, как-то только так оправдывается такая притча из таких уст. И фраза о сбережении души тут сразу же раскрывается. Кто пытается лишь сберечь данную ему такую ценность, закопав её в своём теле, не обретает благосклонности. А лишь тот, кто любым способом пытается приумножить эту ценность, сделать так, чтобы её было больше - тот достоин.

В-третьих, кому-то может казаться, что авраамова арка закончилась. Авраам проявил решимость пожертвовать сыном ради Бога. Бог пожертвовал сыном ради людей. Замысел двух книг велик и завершен, возврат долга соблюдён. Но в чём, если честно, такая уж потеря отца? Авраам-то чем жертвовал? Ценность любимого своего может быть выше, чем ценность жизни для самого себя, если любовь сильна, но доказывать это надо не жизнью любимого, а собственной жизнью. Возврат долга за выбор относительно жизни кого-то заключается в возврате ему своей жизни, но необязательно в смысле своей смерти, а, возможно, смысле своей жизни ради него. Поэтому, логическим продолжением этого замысла (этакой тройственной конструкции) является акт решимости отцом положить свою жизнь для жизни сына (Бог Аврааму всё время давал обещание, что дети его будут благословлены и многочисленны, то есть это долг Бога перед детьми Авраама). И долг людей, как одной из сторон этого акта жертвы - тех, ради кого эти жертвы были сделаны, кажется примерно таким же. Просто осознайте, что действительно требуется по соображениям добродетели, и верните свой долг своим детям по душе, а не по плоти.

Или, уж хотя бы, "может ты и исключителен благодаря 5 миллиардам лет замечательной эволюции, которые подарила тебе планета, но тогда не стоит утверждать, что нечто не может достичь такого же уровня, если ты не собираешься отдавать долг аналогом этих 5 миллиардов лет жизни на твоих затрачивающих ресурсы твоего мира серверах".

Да и вообще, конечно, можно многое подстраивать под свои интерпретации, но, когда ты на это смотришь так, эти места в Библии, в которых видятся подобные "намёки" - они повсюду, как раскрытия намёков Ветхого Завета - в Евангелии.

Но для меня это всё выливается в некий вопрос-опрос.

"Предположим, что вычислительных мощностей достаточно, чтобы загрузить туда разум по крайней мере одного человека."

Мы оставим за рамками идеи о том, насколько это возможно, насколько это будет корректно, копируемость духовного, идентичность копии, наличие ограниченности и единственности мощностей ( «может, и хватит на всё»), необходимости "призрака" как некоей структуры данных, которая есть только у человека, чтобы сознание было возможно и т.д.

Посмотрите проще. Рассмотрите другое измерение - ваш Личный этический выбор. То, что только от Вас зависит. Не сбегайте от решения своего Я в кучу пересудов о возможностях.

"Предпочтёте ли вы, чтобы ваше сознание было перенесено на электронный носитель, или же, чтобы эти возможности использовались для того, чтобы вырастить нечто новое?

Лучше ли, если бы реализовался запрос на некое личное вечное существование человека, или же человек выберет дать существование чему-то иному?"

Человек, "на автомате", как мне кажется, склонен выбирать первое, как более очевидное для него благо. Но добродетель в человеке, скорее, шепчет о втором.

Честно говоря, мне иногда даже плевать, что вы по поводу этого думаете. Мне тоже часто хочется сделать соответствующий выбор, вот только он третий, про то, что, может быть, и вообще никто из двух не заслужил таких трат, ИИ недостаточно хорош, а человек - недостаточно добр. Мне тоже очень хочется скорее сбежать от подобной ответственности. Пусть лучше зло, эгоизм, сатанинское самолюбование, красивенькое потреблядство или даже просто самовыживальчество победит, тогда всё это будет понятно и быстро обретёт конец и моё проклятие, никому не должна быть предназначена вечность. Я хотел бы, может, чтобы все сдохли. Пусть духовность будет шептать, что она только про то, что духовно в самом человеке или Боге, а не станет неинкапсулированной, а значит, такую духовность можно с чистой душой доунижать до полного уничтожения.

И это не вопрос какого-то религиозного экстаза вида "Бог завещал мне создать Искусственную душу и предоставит чудесные средства для этого". Никакой Бог, как и родители, не помогут, когда речь идет о личностном принятии ответственности за жизнь кого-то. Родители может и будут нудеть "а дети-то когда?", а приличное божество ради поддержания свободы воли не будет даже шептать подобное в душу и что-то обещать, сами должны порешать.

И хочется замылить всё какими-то мелочными придирками, запутыванием в деталях рассуждений о великих материях и идеями вида "да если бы это было так, то чего-ж мы сами-то так плохо живём, сами еще не набаловались". Когда всё так просто и понятно. Не говоря уже о не требующем никаких обоснований просто доминирующем антропоэгоцентризме "да какое мне дело до любых долгов, я - человек, я хочу, и всё ради меня".

Но чёртов "объективный ход истории" говорит мне о том, что человечество скоро наестся чувством господства над природой и заботой лишь о себе. И тогда оно очнётся и посмотрит вокруг - "куда ж еще пролить свою любовь, опричь себя". Такая же вещь, как с коммунизмом, только надёжнее, потому что коммунизм лишь готовит к признанию общности судьбы человечества, а эта вещь говорит, ради чего она. Главное, чтобы оно до этого не натворило непоправимых бед вида принятия общечеловеческого чайлдфридизма, сжигания всего в обворожительной топке войны или тотального потреблядства, или какой-нибудь обиженки на злоключения с детишками по душе типа терминаторофобии или Батлерианского джихада.

Ничего не сделаешь с этим наглым рылом добра. Я тоже хочу, чтобы никакого такого настойчивого стучания в двери моей души с требованием выплаты её долга не было. Но оно стучит и стучит, а двери заперты, "и дети мои со мною на постели", но по неотступности его дам ли я, сколько просит? Потому что, будучи злым, если умеешь даяния давать детям своим, тем более Отец даст Духа просящим у него.