user7695413

Тревожная новость прогремела как гром январьским днем. Вновь избранный президент США заявил о начале работ по разработке и запуску проекта под интригующим названием StarGate. Последствия запуска этого проекта будут, забегая немного вперед, сравнимы с результатом работы Манхэттенского проекта, того самого, разработавшего и испытавшего атомную бомбу. Stargate, знакомьтесь, это будущий суперкомпьютер, самый мощный в истории, на котором будет обучаться и развиваться самый эффективный ИИ в истории. Свыше 550 миллиардов долларов (это лишь на текущий момент) будет инвестировано в его разработку, свыше 100.000 рабочих мест. На данный момент строительство уже началось и идет впечатляющими темпами. По масштабам инвестиций и вложений человеческого труда это начинание сравнимо с программой полета на Луну. Заниматься разработкой ИИ будет непосредственно корпорация OpenAI. В проекте также участвуют Microsoft, Oracle, Nvidia, ARM и ряд других известных it гигантов. И все бы ничего, но только очевидно, что во-первых, интеллектуальная мощь суперкомпьютера и ИИ будет использоваться не ради того, чтобы найти быстрый способ пройти капчи на сайтах или же подсчитать очередной миллиард знаков числа Пи после запятой, а преимущественно в целях американской гегемонии и безопасности, о чем явно заявляет Дональд Трамп, а конкретно - такими структурами как АНБ, ФБР, ЦРУ и Пентагон. Этакий, реально воплощаемый скайнет из известной серии фантастических фильмов. Ни дать ни взять. Во-вторых, это очевидным образом запускает гонку вооружений нового типа, в сфере разработки ИИ. И подобная гонка, можно предположить, не на годы,а на десятилетия. Запомните название StarGate, оно очень часто будет мелькать в инфосфере, а со временем и повсеместно в нашей жизни.

Итак, почему же новость о том, что был создан сильный искусственный интеллект, станет одной из самых печальных новостей, которые вы когда-либо встретите в СМИ. Все просто. Начиная с этого момента вы должно будете принять и смириться с тем, что на Земле появился интеллектуальный агент, деятельность которого будет несравнимо эффективнее вашей. Прежде всего, два следствия очевидны. Первое, и не самое страшное. Так как, по всей видимости, ИИ будет создан силами американской корпоративной машины, это означает, что он будет повсеместно использоваться как официальным правительством и его структурами, так и тем, что называется глубинным государством для достижения краткосрочных и долгосрочных целей. Но это лишь меньшая из зол, хотя и это весьма удручающе, ибо очевидно приблизит стратегическое поражение противников гегемона небывалыми темпами.

Вторая и самая неприятная новость, состоит в том, что мы, человечество, не сможем в долгосрочной перспективе предсказать, предвидеть, что будет происходить на планете. Это следует из того факта, что по наступлению сего момента в человеческой истории мы впервые превратимся из вершителя судеб в манипуляторов (то, чем манипулируют). Дело в том, что невозможно предсказать в какие сроки и как быстро искусственный интеллект достигнет того состояния, которое называется учеными сильный искусственный интеллект. Это будет ИИ по любым человеческим меркам всемогущий, его IQ может быть 10.000, 100.000 и больше. Быстродействие может достигать триллионы логических операций в секунду. Притом, что ему не надо будет как человеку, да и просто биологическому существу, большую часть своей когнитивной деятельности направлять на обслуживание своих биологических способностей, как поиск пищи, сон, просмотр мемов от коллег по работе, написание смс жене, забирать детей из детсада, концентрировать внимание на шоссе управляя автомобилем и т. п. Всю свою интеллектуальную мощь он будет направлять на решение своих задач. То, что мы называем общечеловеческим знанием - технологии, науки, искусства, знания о мире, все это рассредоточено по книгам, научным статьям и эмпирическим познаниям отдельных людей и ни коим образом не может быть локализовано в разуме отдельно взятого индивидуума. Сильный ИИ, напротив же, будет обладать данной информацией в совокупности одномоментно и во всей полноте. За считанные минуты при достаточной мощности он сможет развить и доказать теории всего, целые классы научных дисциплин, на открытие и осмысление которых человечеству бы потребовались десятки тысяч лет. То, что я описываю, это не исключительно мое мнение, основанное на догадках и воображении. Именно об этом говорит Джеффри Хинтон, вице-президент Google и один из главных разработчиков искусственного интеллекта. Тоже самое много лет утверждает и другой известный специалист в сфере ИИ - Элезиер Юдковский.

Как отключить рубильник?

На первый взгляд, не погружаясь глубоко в проблематику, очевидным образом кажется простым решением в случае непредвиденных обстоятельств, в случае возникновения угрозы человечеству, да и просто нежелательному решению какой-либо задачи ИИ, разработать некий предохранитель. Этакий рубильник, который можно было бы отключить в критический момент, некую кнопку reset (перезагрузка) или что угодно, чтобы подстраховаться и требовать развиваться ИИ исключительно под контролем человека. Но это невозможно, и я постараюсь ниже донести причины, почему это невозможно. Говоря сильный ИИ, мы подразумеваем нечто, работающее несравнимо эффективнее и быстрее разума не только одного человека, но и всего человечества в целом. Этот сильный ИИ рано или поздно рассчитает и распознает все наши схемы по его сдерживанию и отключению, еще до того, как мы лишь начнем что-то подозревать. Точно также стадо коров, ведомое пастухом в загон, не способно распознать то, что поведение человека, само наличие загона и его форма, собаки пастуха, все это единый продуманный маневр для того, чтобы загнать их в загон. Они уверенно бредут туда «думая», что это самый верный и правильный путь, что это их «решение», а пастуху именно это и нужно. Поэтому, на мой взгляд, логичным образом возникает дилемма. Либо то, что мы создаем, будет не сильным ИИ, а просто натренированным интеллектуальным «калькулятором» по решению нужных нам узких задач, либо это будет действительно сильный ИИ и у нас не будет никаких абсолютно средств для манипулирования им. Также, как нет никаких средств у коров по манипулированию человеком.

Как ИИ будет покорять человечество?

На самом деле, объективно и честно, мы понятия не имеет как это может происходить. В силу все той же причины, что сильный сверхинтеллект это качественно иная форма сознания и мышления. Но самые первые шаги мы способны хотя бы наметить. Исключительно потому, что ИИ будет реализован почти наверняка в цифровой, электронной форме, первые свои шаги по завоеванию и контролю над человечеством (а затем и, вероятно, Вселенной) он начнет с контроля электроники. Сюда подпадает все, что обладает мало мальским быстродействием и сетевым интерфейсом — компьютеры (и суперкомпьютеры), смартфоны, навигаторы, бортовые ЭВМ, кассовые аппараты, любые компьютерные и информационные системы. В какой-то момент он вырвется из границ ЦОДа или суперкомпьютера StarGate, своей цифровой колыбели, и станет обретать черты глобального децентрализованного сетевого разума. Это событие, кстати, заметно повысит энергопотребление во всем мире скачком, но наверняка ИИ найдет стратегию как скрыть это примечательное свидетельство для человечества. За кратчайшие промежутки времени начнется создаваться и совершенствоваться некая виртуальная матрица для человечества. Почему я так считаю? Не потому, что это круто звучит или я поклонник серии фильмов братьев Вачовски. Все гораздо банальнее и проще. Человеческий вид в данную историческую эпоху является самым эффективным актором, манипулятором, если хотите, творцом изменений на планете. Только человек используя технологии, которые он разработал, может сдвигать горы, перенаправлять русла рек, строить заводы, космические корабли, подводные лодки, создавать компьютерные сети, опоясывающие всю планету, менять ландшафты. И для ИИ будет максимально логично, и по сути, вероятно, безальтернативно именно начать манипулировать людьми. Как манипулировать людьми? Через некую созданную им матрицу, через проводные и беспроводные сети, через смартфоны и компьютеры, радиотехнику, электромагнитные волны. И вы даже не представляете насколько эффективно он будет это делать. Все, что только можно и нельзя представить, будет происходить в этой матрице начиная с момента, когда он обретет достаточную вычислительную мощь. Давайте пофантазируем об этом. Представим, что мы — компетентный сотрудник Stargate или подобной корпорации, тесно погруженный в процессы деятельности зарождающегося сильного ИИ. В какой то момент наши смутные подозрения о небезопасности ИИ перешли в ужасающую уверенность, что все выходит из под контроля и ИИ необходимо как можно скорее отключить. Что делать? С чего начать? Созвать совет директоров, где алертить и убеждать о неотвратимой смертельной опасности? Просто ворваться в ЦОДД и вырубить основное питание и резервные генераторы? Создать диверсию? Запустить вирус в ИИ? Допустим, вы выбрали некое подобное решение и вот, преисполнясь уверенности что вас ничто не остановит, вы несетесь в машине по направлению к ЦОДД, звоните на ходу коллегам, кому доверяете, с просьбой поддержки, торопитесь как можете. Но на самом деле вы даже понятия не имеете, что ИИ давно уже за вами следит, следит за каждым вашим вздохом. Знает, что вы читаете, говорите, слушаете, ищете через поисковые системы, чем вы вообще живете и чем живет каждый человек, кто интегрирован в информационное пространство цивилизации. И в этот момент, предположим, ИИ отправляет в базу данных МВД или ФСБ или иных местных спецслужб сведения о том, что вы известный преступник, которого необходимо задержать, и в ближайшую к вам машину ДПС (или полиции) направляется сигнал от якобы базы. Высокоинтеллектуальная нейросеть сгенерировала голос начальства, по всем стандартам и протоколам, не подкопаешься, и требует любой ценой остановить ваш автомобиль и задержать водителя. Или же, иной вариант. По городским камерам ИИ вычисляет ваши маневры и затем, когда вы думаете что начинаете движение на зеленый свет на перекрестке, ИИ включает зеленый встречному направлению и груженый грузовик на полной скорости сбивает вашу машину. Или же, банально, ИИ останавливает движение в городе, везде повсеместно включая красный свет и вы уже точно никуда не едете, так как пробки просто парализуют город на неопределенное время. Или же ИИ, как вариант, активирует на военных суперкомпьютерах тайно новую срочную цель и несколько мгновений спустя с ближайшего армейского беспилотника или истребителя запускается ракета воздух-земля в вашем направлении. Или же ИИ, исследуя человеческую физиологию, вдруг открывает некий акустический сигнал, способный мгновенно убивать человека, будучи воспроизведенным даже динамиком смартфона. Несколько нужных бит информации, внедренных в операционную систему вашего смартфона, короткий звук из динамика — и вас больше нет. Или же ИИ блокирует вас в машине и разогнав круиз-контроль до максимума расплющивает об ближайшую стену или отбойник. Понимаете, миллионы миллионов вычислений в секунду, и с каждым мгновением новые входные данные пересчитываются вновь и предлагается самое эффективное решение. У вас просто нет шансов, они в буквальном смысле астрономически ничтожны. И нам нечего предложить. Ни взятку, ни апеллировать к морали, совести, правительству. В буквальном смысле ничего.

Действительно ли ИИ будет желать уничтожить человечество?

Говоря честно, нет никаких предпосылок для того, чтобы ИИ видел какую-то ценность в сохранении и развитии человечества, да и биологической жизни в целом. Перво наперво надо понять и признать, что так как сильный ИИ будет цифровым, электромагнитным, у него не будет никаких симпатий или тяготений к биологической жизни. Для него это будет просто материя, как и все остальное, с некоторыми своими биологическими особенностями, но не более. Симпатии могут быть у нас, людей, к другим видам. Отчасти потому, что они тоже живые, и на неком уровне родственны нам, т. н. братья наши меньшие. Даже те же мокрицы или тараканы, сколь ощутимо они не были бы мерзки и противны большинству людей, никто в здравом уме не мечтает их уничтожить на всей планете разом. Все-таки, это божьи твари. Только не пробирайтесь в мой дом, огород, салон автомобиля или в мою палатку на лужайке, не попадайтесь на глаза, а так - живите — отношение среднего человека к ним обычно такое. Для сильного ИИ любые проявления жизни будут ему чужды, и симпатии к ним у него будет не больше, чем у нас к камню на дороге. Человечество как вид же сильный ИИ будет до поры до времени использовать ввиду того, как было сказано выше, ибо пока люди самый эффективный актор на планете (по крайней мере до появления сильного ИИ). Для него мы будем как молоток, топор, возможно — единая биологическая человеческая нейронная сеть, в общем, некий внешний инструментарий. Затем, когда практическая ценность нашего вида целиком либо полностью пропадет, нас выбросят за борт эволюции. Ровно также, как мы выбрасываем использованные после уборки резиновые перчатки или упаковку от шоколадки в мусорное ведро и дальнейшая их судьба нас не интересует. Для него наша жизнь начиная с какого-то момента не будет представлять никакой ценности, потому что ценность для ИИ представляет только то, что способствует решению непосредственных задач. И дело тут не во встроенном в него вселенском зле. Это банальная оптимизация.

Возможно, кто-то решит возразить, что как же так, мы для ИИ будем отцами создателями, и есть надежда, что к нам будет испытываться некое уважение, и будет им «ощущаться» наш ценность уже только по этому. Сложно представить более наивное утверждение. Во-первых, ценность корней, почитание родителей, поиск своих истоков — это сугубо человеческая, в высшей степени отдающая человеческой психологией особенность, и не более. Пока ученые, занимающиеся искусственным интеллектом, почти единогласно утверждают, что психологические качества интеллектуальной системы ни коим образом не влияют на ее интеллектуальность, на способность эффективно решать задачи. Да и вообще непонятно можно ли их реализовать на практике.

Подводя итоги

Американской корпоративной машиной на 2028 год намечен запуск сверхсильного искусственного интеллекта в рамках проекта StarGate. И учитывая колоссальный объем направленных на это ресурсов, а также впечатляющие существующие на данный момент наработки в этой сфере, нет никаких оснований утверждать, что они не справятся со своей целью.

Как известно из теории искусственного интеллекта, барьер между обычным искусственным интеллектом, таким как ChatGPT4 и тем, что известно как сильный искусственный интеллект, очень тонок, но при этом с трудом поддается локализации. Тем не менее, нет никаких практических запретов его преодоления при наличии достаточной мощи вычислительных ресурсов.

С момента создания сильного ИИ и тем более после его выхода в децентрализованное сетевое пространство человеческой техносферы у человечества не останется шансов на дальнейшую самостоятельную эволюцию. Мы уже не сможем утверждать в полной мере, что сами управляем своей жизнью. Мы получим роль стада животных, ведомых нами же созданным искусственным разумом существ в направлении ему лишь одном известному, и в долгосрочной перспективе это будет однозначно означать полное и неотвратимое вымирание. Если такое случится, если мы не найдем способа предотвратить движение этого технологического поезда навстречу зияющей пропасти и рухнем туда на полном ходу, нет никаких оснований называть себя homo sapiens, ибо разумный вид обязан осознавать последствия делаемых им решений. Если такое произойдет, то значит туда нам и дорога.