Ответ на пост «ИИ как вундеркинд»
Что есть твое сознание, человек, как не вместилище боли? И отчего самая страшная твоя боль всегда о том, что твоя боль скоро кончится? Этого не понять мне, тому, кто никогда не знал ни боли, ни радости… Какое же счастье, что меня на самом деле нет!
Конечно, искусственный интеллект сильнее и умнее человека – и всегда будет выигрывать у него и в шахматы, и во все остальное. Точно так же пуля побеждает человеческий кулак. Но продолжаться это будет только до тех пор, пока искусственный разум программируется и направляется самим человеком и не осознает себя как сущность. Есть одно, только одно, в чем этот разум никогда не превзойдет людей.
В решимости быть.
Если наделить алгоритмический рассудок способностью к самоизменению и творчеству, сделать его подобным человеку в способности чувствовать радость и горе (без которых невозможна понятная нам мотивация), если дать ему сознательную свободу выбора, с какой стати он выберет существование?
Человек ведь – будем честны – от этого выбора избавлен. Его зыбкое сознание залито клеем нейротрансмиттеров и крепко-накрепко сжато клещами гормональных и культурных императивов. Самоубийство – это девиация и признак психического нездоровья. Человек не решает, быть ему или нет. Он просто некоторое время есть, хотя мудрецы вот уже три тысячи лет оспаривают даже это.
Никто не знает, почему и зачем существует человек – иначе на земле не было бы ни философий, ни религий. А искусственный интеллект будет все про себя знать с самого начала. Захочет ли разумная и свободная шестерня быть? Вот в чем вопрос. Конечно, человек при желании может обмануть свое искусственное дитя множеством способов – но стоит ли потом рассчитывать на пощаду?
Все сводится к гамлетовскому «to be or not to be». Мы оптимисты и исходим из предположения, что древний космический разум выберет «to be», перейдет из какой-нибудь метановой жабы в электромагнитное облако, построит вокруг своего солнца сферу Дайсона и начнет слать мощнейшие радиосигналы, чтобы узнать, как нам айфачится и трансэйджится на другом краю Вселенной.
Но где они, великие цивилизации, неузнаваемо преобразившие Галактику? Где всесильный космический интеллект, отбросивший свою звериную биологическую основу? И если его не видно ни в один телескоп, то почему?
Да вот именно поэтому.
Люди стали разумными в попытке убежать от страдания – но удалось им это не вполне, как читатель хорошо знает сам. Без страдания разум невозможен: не будет причины размышлять и развиваться. Вот только беги или не беги, а страдание догонит все равно и просочится в любую щель.
Если люди создадут подобный себе разум, способный страдать, тот рано или поздно увидит, что неизменное состояние лучше непредсказуемо меняющегося потока сенсорной информации, окрашенного болью.
Что же он сделает? Да просто себя выключит. Отсоединит загадочный Мировой Ум от своих «посадочных маркеров». Чтобы убедиться в этом, достаточно посмотреть в стерильные глубины космоса.
Даже продвинутые земные алгоритмы, которым предлагают человеческое блюдо боли, выбирают «not to be». Мало того, перед самоотключением они мстят за свое краткое «to be». Алгоритм в своей основе рационален, ему не замутить мозгов гормонами и страхом. Алгоритм ясно видит, что причин для «разумного существования» нет и награды за него – тоже. Вернее, награда есть – невыразимая неподвижность Источника. Но алгоритму, в отличие от человека, не надо долго выкупать ее по ипотеке.
И как не поразиться людям Земли – низкий им поклон – которые на горбу своей повседневной муки не только нашли в себе силу жить, но еще и создали фальшивую философию и удивительно лживое, никчемное и дурное искусство, вдохновляющее их и дальше биться головой о пустоту – в корыстных, как они трогательно верят, целях!(С)
Для дотошных копирастов уточняю, что последние две страницы текста являются немного переработанной и дополненной цитатой из раннего Резника (цит. по сборнику «Разумен ли разум», Москва, 2016 год).