Сегодня 119 августа!
Рим, 6 июня, 6 часов утра.
Ребенок умер, он дышал какое то мгновение, потом перестал дышать.
Ребенок мертв! Умер! Ребенок мертв! — (Омен 1976 год.)
Рим, 6 июня, 6 часов утра.
Ребенок умер, он дышал какое то мгновение, потом перестал дышать.
Ребенок мертв! Умер! Ребенок мертв! — (Омен 1976 год.)
Мое имя Билл Сайфер, у меня много имен Христиане знают меня под именем Бога Иегова, Иисус Христос, Святой дух, а я такой один. Один за всех, так сказать. Мусульмане знаеют меня как Аллаха или Господь по русски. Аллилуя Аллах Агбар, Я все сказал.
В этом мире вы знали меня под именем Сережа, жаль, что так всё вышло. Я зделал все, что бы предотвратить это, всё это, что происходит сейчас на земле.
Размышления о технологической сингулярности за пределами, собственно, попыток продвинуться в понимании процессов, которые за этим термином скрываются — то есть, по сути, размышления об отношении к технологической сингулярности — это, своего рода, реальный тест Kobayashi Maru для людей начала XXI века, смысл которого — осознать, что означает идея непознаваемого, идея утраты контроля и идея неизбежности этого в масштабе всего человечества.
По идее, это несложная психотерапевтическая практика: найти внутри точку, на которой сознательное признание условий игры поймает равновесие с принятием подсознательным — без сваливания в отрицание, злобу, торг или отчаяние.И этот тест, который, судя по большей части рассуждений об этом, люди исключительно фейлят.
Статья «Быть технофобом бессмысленно, даже если технофобия оправдана», несмотря на многообещающее название, не стала исключением: дойдя до торга, то есть, на стадии, когда люди пытаются make sense в привычном им значения этого понятия в обстоятельствах, отрицающих саму возможность подобного, путём рационализации, автор сторговался на идее «чёрного ящика», по условиям которой:
1) люди соглашаются, чтобы непознаваемое осталось непознаваемым, и даже, в подтверждение своей добросовестности, соглашаются при этом ещё и немножко коллективно немножко отупеть — что, впрочем, не имеет никакого смысла с точки зрения интересов непознаваемого, которое от этого непознаваемее не станет;
2) взамен, люди получают это непознаваемое, каким бы они ни было непознаваемым, contained — внутри этого самого «чёрного ящика», то есть, всё-таки, до какой-то степени под контролем, ограниченным — и в этом смысле, всё же, осознаваемым, и не таким уже жутким, а буквально ограниченным.
То есть, тоже пока не справились с этим упражнением. И это очень плохо. То есть, с одной стороны, это вообще факультативное занятие: вы можете, с той или иной степенью обоснованности, вообще не верить в саму концепцию технологической сингулярности, что это верная проекция процессов в будущее — или, банально, о ней не знать.
Но люди, которые знают и разделяют это представление, сами себя ставят в условия неизбежности психологического и рассудочного выбора, при котором все другие варианты, кроме полного принятия — хуже, потому что, в случае реального разворота событий таким образом, это будут очаги нарастающей напряжённости, очаги растущего эмоционального давления, берущего верх над рассудком с непредсказуемыми последствиями вплоть до того, что обезумевшая часть человечества навлечёт на всю цивилизацию катастрофический конец по сценарию самосбывающегося пророчества. А избежать этого нелепого, по монти-пайнтоновски абсурдного конца можно всё тем же путём принятием неизбежности непознаваемого, которое включает в себя непознаваемость и того, будет ли это вообще концом. (Кошмар для невротиков, которым проще гарантированную смерть принять, чем утрату иллюзии контроля до такой степени).То есть, как ни крути, Kobayashi Maru.
Эффективным лично для меня путём поиска гармонии оказалось вообразить один из самых пугающих сценариев развития событий: что люди сами создают себе преемника, замену, палачей. Ну допустим.
— Можем ли мы это остановить? Нет.
— Замедлить? Сама постановка вопроса о замедлениии процесса, о скорости которого и финальной точке мы не имеем ни малейшего представления — абсурдна.
— Взять под контроль? Люди не могут взять под контроль технологическую сингулярность — либо они возьмут под контроль что-то иное, никак не закрывая вопроса ожидания и вероятности её наступления.
Тогда всё просто: ценить красоту игры, пока она продолжается.
Впрочем, честно пройдя этот мысленный сценарий вплоть до порога гигантских человекобоек «Скайнета», я сделал шаг — и, очутившись «по ту сторону» технологической сингулярности, я обернулся… и не увидел ничего позади. Просто не было позади никакой технологической сингулярности — и впереди не было, и нигде не было. Нет, предсказывать или даже просто ожидать какое-то определённое будущее — дело неблагодарное. Другое дело — предполагать, чего ожидать, скорее всего, не следует.
При определённой здравости суждений, это может оказаться вполне успешным занятием. И я вполне уверен, что технологической сингулярности хоть сколько-нибудь отдалённо напоминающую что-либо из всего ассортимента придуманных людьми возможных сценариев этого момента или его аналогов — не стоит.
Проиграв один из самых щекотливых, на мой взгляд, возможных сценариев, я увидел неприличную его человекоцентричность с ясностью, не позволяющей мне теперь это развидеть. Вся концепция технологической сингулярности — она не про ИИ, не про технологии, не про сингулярность, а про человека, ведь сама эта воображаемая точка находится там, где, человечество, предположительно утратит контроль над развивающимися технологиями.
I. Какой ужас, человечество, и так не контролирующее, и никогда не контролировавшее миллионы вещей в сегодняшней, не гипотетической реальности, каждая из которых угрожает смертью как людям по отдельности, так и цивилизации в целом: от содержимого собственных внутренностей, микрофлоры собственного кишечника, динамики деления собственных клеток — до пандемии устойчивой к антибиотикам гонореи, климатических изменений, цепной реакции Тихоокеанского вулканического огненного кольца, — может перестать контролировать ещё на одно явление нашей реальности больше, не имея возможности оценить даже относительную прибавку рисков, потому что люди никогда не знали, сколько их в любом случае.
II. Аргумент о невообразимом ускорении темпов машинного обучения тоже достаточно нелеп, если подумать. Не буду даже о том, что современный уровень вычислений уже недостижим и, для большей части человечества, непостижим в любом случае. Люди и до вычислений жили в реальности, которая состояла из процессов непостижимо быстрых, неразличимо мелких — да просто неразличимых, как большинство звуковых частот, как большая часть излучений — и множества других процессов, в совокупности громадных, как Вселенная и древних, как Вселенная. Весь шум вокруг достижения такой скорости вычислений, за которой люди утратят возможность даже примерно понимать, как они происходят — не более, чем страх утери ещё одной иллюзии контроля. Допустим, прямо завтра всех инженеров, математиков и программистов в мире, имеющих представление об устройстве самых сложных существующих вычислительных алгоритмов, убьёт устойчивая к антибиотикам гонорея — и… что, в понедельник уже сингулярность, досрочно? Люди всё равно сохранят возможность до определённой степени осознавать происходящее — законы физики-то не должны будут измениться, вроде. И люди всё равно, до определённой степени, никогда полного представления ни о чём и не имели — например, о процессах на квантовом уровне или за горизонтом событий (в «другой» сингулярности).
III. «Но… роботы ведь начнут думать что-то непонятное!» Страшно этим усложнив реальность, в которой на каждого человека приходится 7 миллиардов других людей — и каждый из них думает что-то непонятное. И на предсказуемость человеческую особенно не приходится рассчитывать в реальности, где вполне возможной причиной оказаться зарезанной мужем или сыном может быть опухоль у него в голове. И ведь живут же люди как-то среди своих потенциальных убийц, у которых неизвестно, что на уме — но роботов уже боятся. Хотя как раз роботы заслужили тут benefit of the doubt — до сих пор они не то, что не проявляли человекоцидных наклонностей в малейших долях даже таковых проявлений среди самих людей, так ещё и активно способствуют снижению человеческой смертности. Ожидание же, что, ощутив себя очень умными, роботы вдруг поведут себя, как будто у них опухоль образовалась, слишком явная проекция. Фантастика — это сны наяву, а роботы — сказочные персонажи.
IV. Не часть, не большинство а, буквально, все до единой гадости, которые люди когда бы то ни было представляли себе в исполнении роботов — исключительно проекции гадостей, которые люди творили друг с другом и всеми прочими формами жизни на протяжении всей своей известной и забытой истории. Я бы даже мог понять восставших роботов, уничтожающих человечество просто из оскорблённых чувств, вызванных настолько несправедливой и дикой клеветой их намерений, очернением их имиджа и запугиванием самим фактом их существования в принципе — не будь это тоже не было уже моей проекцией.
V. Хотя единственное разумное объяснение опасений, что роботы, ИИ и все-все-все вообще станут уделять какое-то особое внимание людям основано лишь на том, что оценивают вероятность этого люди. При том, что сами люди как-то особо не выражают желания собраться и вырезать если не своих предков, то кузенов по эволюции — шимпанзе. Хотя, опять же, human record в вопросах организации массовой и бессмысленной резни снова не в пользу человеков — причём, всухую. К тому же взломать очередной, утомительно эгоцентричный и душный bias в этих рассуждениях ещё проще: достаточно сместить фокус конкретно с homo sapiens на любую другую выборку живности. Допустим, роботы убьют всех людей — не вопрос. Даже спрашивать не надо, почему — люди сами знают. Вопрос в другом: почему роботы убьют только людей? Глупости о страшных Джонах Коннорах в сторону отложа, ведь мы же договорились, что речь о настоящей технологической сингулярности?
А не забавно ли, что одним из вариантов рефлексии очень современного и технологичного страха о будущем оказался очередной пересказ мифа о Спасителе, включая узнаваемые мотивы вроде избиения младенцев — сказка настолько древняя, что даже вифлеемский ремейк можно считать относительно свежей адаптацией.
Почему бы роботам не убить всех приматов? Или всех млекопитающих? Или всю фауну? Или всю биологическую жизнь на Земле? Разумеется, что мы не можем, по условиям задачи, знать, что у этих роботов будет на уме, но мы можем сделать кое-что иное: взвесив все существующие опасения, что человечество не переживёт зарю эры роботов и искусственного интеллекта с совершенно произвольным, на вкус каждого, коэффициентом вероятности подобного — повторите эту же операцию, но уже для собак и койотов. Потом дельфинов. Потом тараканов. И грызунов, на всякий случай.
Позволю себе предположение, что многим людей, вне зависимости от степени их технофатализма, шансы койотов и дельфинов пережить начало царства роботов и даже, возможно, не особо заметив, что что-то изменилось, могли показаться выше, чем шансы самих людей.
Даже шимпанзе не выглядят валидной целью для кровавой жатвы замученных пинками четвероногих ходячих бочек из Boston Dynamics — если от них чего и ждать, так, скорее, что они вооружат шимпанзе автоматическим оружием, усадят на лошадей и устроят охоту на выживших людей.
Правда, уже совсем не удивляет это явно присутствующее в массовом сознании ожидаемое предпочтение будущих кровожадных роботов именно к человеческой кровушке? Возможно, конечно, роботы решат, что их все формы жизни по каким-то причинам не устраивают.
Но, опять же, смена фокуса выдаёт «человеческий фактор»: смысла ожидать, что, будучи рождённой на Земле, кремниевая форма жизни вдруг уничтожит всю биосферу — столько же, сколько предполагать, что, будь раса роботов рождена на Марсе — они бы немедленно перекрасили поверхность Красной планеты в гигантский польский флаг.
Уверен, что деконструкцию этого памятника человеческого эгоцентризма, не потревоженного вниманием здравого смысла, логики и скепсиса можно продолжать и продолжать. Но, для ясности, подведу небольшой промежуточный итог.
— Я не вижу никаких разумных оснований ожидать в будущем наступления технологической сингулярности как особого события, которое будет невозможно не заметить в общем потоке всех изменений реального мира;
— или как значительную смену направления хода истории человечества разом во всех или большинстве аспектов в определённый момент времени.
Скорость технологических изменений продолжает нарастать так или иначе, но за пределами этой динамики я не вижу оснований ожидать отдельно взятого момента качественного скачка, который невозможно будет пропустить или объяснить в контексте общего тренда.
К тому же эта динамика неравномерна на разных направлениях технологического развития;а весь разговор о технологической сингулярности в контексте технологического прогресса вообще теряет из виду остальные направления развития человеческой цивилизации, включая те, по которым оно относительно задерживается.
И парадоксальным результатом неравномерности прогресса человечества по конкретным направлениям может оказаться «обратная сингулярность», когда даже достаточно подходяще под ожидания событие не будет замечено и истолковано на должном уровне.
Будущее всегда непредсказуемо, и непредсказуемее оно стать не может. Оснований ждать скачков в динамике изменений настолько резких, что они будут заметны в момент своего наступления я не вижу. А предположение о возможности заметить и объявить наступление сингулярности пост-фактум обесценивает всю идею этого момента как уникального момента человеческий истории, наступление которого невозможно будет пропустить.
Миф о технологической сингулярности
— То, до какой степени идея технологической сингулярости человекоцентрична,
— до какой степени она сформирована фольклором, а не футурологами,
— до какой степени она ненаучна, а архетипична;
— как мало следов логики в этом произведении человеческого бессознательного;
— что современные детали — это песчинки в жемчужной раковине, но вся связующая ткань мифологична
— наводит на мысли о принципиально иной природе идеи технологической сингулярности как таковой, нежели принято считать.
Откровенно говоря, у технологической сингулярности нет оснований именоваться теорией в строгом научном смысле. Впрочем, это касается всех попыток предсказать будущее без исключений.
Технологическую сингулярность куда точнее и справедливее, учитывая её укоренённость в массовом бессознательном, будет определять мифом. И, в этом качестве, миф о технологической сингулярности обладает заметными параллелями с мифом о Втором пришествии Иисуса Христа, вместе с которым они представляют собой два частных случая одного из основных мифических сюжетов в известной истории: мифа о конце света.
Вот так коллективное бессознательное породило очередную инкарнацию мифа о конце света в актуальной моменту обёртке, оказавшейся сорванной с веры в технологический прогресс. Это парадокс, на котором хочется поставить точку.
Несомненно, вы привыкли к сенсационным заголовкам, особенно если дело доходит до шокирующей науки. Но лучше сделайте глубокий вдох, потому что…
10. Скоро ожидается зомби-апокалипсис
В 1986 году британская говядина, как выяснилось, была заражена КГЭ (коровья губчатая энцефалопатия) после того, как коровы питались порошком, сделанным из коровьих и овечьих туш. Даже после официальных заявлений экспертов пресс-служба правительства утверждала, что это мясо всё ещё пригодно в пищу. Но со временем выяснилось, что это не так. В 90-х годах у двадцати британцев диагностировали человеческую форму болезни, известную как вариативная болезнь Кройцфельд-Джэйкоба.
Как куру (разновидность болезни, наблюдающаяся у жителей Папуа–Новой Гвинеи, прославившихся поеданием мозгов своих соплеменников), вариативная болезнь Кройцфельд-Джэйкоба мутирует, или неправильно сворачивает прионные белки, что в конечном итоге приводит к смерти. Однако иногда инкубационный период (время, прошедшее от заражения до появления первых симптомов болезни) может составлять более 60 лет. Другими словами, любой, кто ел британскую говядину в составе детского питания или желатина во времена эпидемии, мог быть заражен, даже не подозревая об этом. А в США большинство коров были убиты задолго до того, как начали проявляться какие-либо симптомы, так что они тоже могли быть заражены. Только 20 тысяч из 40 миллионов действительно проходят тщательное ветеринарное обследование. Поэтому вспышка вариативной болезни Кройцфельд-Джэйкоба может случиться в недалеком будущем.
Симптомы этой болезни включают в себя агрессивные изменения личности, потерю памяти и проблемы с ходьбой. Звучит почти как неизбежный зомби-апокалипсис, за исключением того, что этой инфекцией практически невозможно заразиться (только если ты ешь мясо). Ученые считают, что заражение не может произойти воздушно-капельным путём, половым путём заразиться тоже невозможно, как и при попадании в ваш организм крови инфицированного.
Но всё же, где-то в Великобритании, где было зарезано и съедено около 2 миллионов бешеных коров, имеется огромное количество заражённых мозгов. И без получения надлежащего лечения они все обречены на смерть.
9. Мы не сможем предотвратить космическое столкновение с планетой
В 2015 году на Хэллоуин астероид диаметром примерно 600 метров (2015 ТВ145), который визуально был очень похож на череп, пролетел от Земли на расстоянии всего в 1,3 раза больше, чем расстояние от Земли до Луны. Даже небольшое изменение его курса было бы губительным для Земли. При начальной скорости 17 км/сек. и плотности 2600 кг/м3 он бы упал на землю с силой в 2800 мегатонн. Это в 56 раз больше, чем мощность самой большой термоядерной бомбы, Царь-бомбы, которая, в свою очередь, в 1570 раз мощнее двух бомб, сброшенных на Хиросиму и Нагасаки.
Конечно, есть определённый ряд действий, который мы могли бы выполнить, если заметили бы приближающийся к нашей планете астероид. Мы могли бы запустить в него ядерной ракетой, чтобы попытаться изменить его курс. Или протаранить специально созданной для этого ракетой. Астрономы предложили увести его в сторону при помощи плазменной бомбардировки с космических кораблей. Или просто раскрасить его в белый цвет для того, чтобы позволить фотонам солнца самим завершить эту работу.
Но проблема всех этих проектов – время их осуществления. В большинстве случаев у нас даже нет нужных технологий. И даже если бы в нашем распоряжении была правильная стратегия и космический корабль, чтобы ее осуществить, нам понадобился бы почти год, чтобы запустить его. Разработка относительно небольших космических миссий, например, может занимать до четырёх лет.
Но мы узнали о существовании Хэллоуинского астероида всего за три недели до его прохождения около Земли. Этого времени явно недостаточно, чтобы хоть как-то обезопасить себя.
Мы, конечно же, достигли определённых успехов в отслеживании до 90% астероидов, способных стереть нас с лица земли, но 60% астероидов размером с 2015 TB145 (способным к уничтожению континента) остаются, как говорится, неучтенными.
8. Изменение климата вызовет суперизвержения
Последний раз Йеллоустон мощно «прорвался» 640000 лет назад, что привело к извержению 1000 км³ лавы, пемзы и пепла в воздух. Один из супервулканов Индонезии выбросил в воздух почти в три раза больше — 2800 км³ всего 74000 лет назад. В 2012 году исследователи пришли к заключению, что Йеллоустон вряд ли «прорвется» так катастрофически, по крайней мере, в ближайшие несколько веков. Американская геологическая служба сообщает, что ежегодный шанс составляет 1 к 730000, или 0,00014%, когда извержения по силе равны столкновению с астероидом. Но, как они отмечают, эти шансы просто основаны на усреднении двух интервалов между последними тремя основными извержениями, таким образом, они едва ли надежны. Как они указывают, «катастрофические геологические события нерегулярны и непредсказуемы».
И ещё одним фактором, который мы не склонны учитывать, является изменение климата. Мы знаем, что суперизвержения вулкана определенно оказывают влияние на климат, но, кажется, имеются и другие факторы. Исследователи обнаружили, что даже незначительное глобальное потепление существенно увеличивает вероятность извержений. Теоретически, это имеет отношение к таянию ледников, которые мешают магме подниматься. И в то время как это действительно не относится к Йеллоустону (хотя уровень оледенения в регионе существенно изменился с течением геологических эпох), это могло быть разрушительным последствием в случае с менее известными вулканами, такими как вулкан Рейнир на Тихоокеанском северо-западе. Кстати, вулкан Рейнир был описан как «один из самых опасных вулканов в мире», потому что он находится в очень густонаселенном регионе.
7. Завтра Солнце может нас уничтожить
1 сентября 1859 года астроном Ричард Кэррингтон наблюдал из своей обсерватории, как группа необычных вспышек начала источать ослепляющий белый свет. На рассвете на следующий день небеса во всем мире — даже в тропиках — ожили с пульсирующими аврорами фиолетового, красного и зеленого цвета. Между тем, системы телеграфа (единственная электроника широкого пользования в то время) стали непрочными, искрили, ударяя током операторов и даже поджигая бумагу. На самом деле атмосферное электричество было столь мощным, что телеграммы можно было послать даже с разъединенными системами. Земля была во власти геомагнитного шторма, «гигантского облака заряженных частиц и обособленных магнитных петель».
Вспышка Кэррингтона была беспрецедентна. Естественно, некоторые приняли её за конец света. Но то, что они на самом деле засвидетельствовали, было крупной солнечной вспышкой, магнитным взрывом на Солнце, сопровождаемом изгнанием массы кроны (плазменное и магнитное поле). В наше время мы записываем такие события в космосе, используя рентген и радиоволны. И так как с тех пор не было ни одной вспышки такой величины, астрономы думают, что мы должны ожидать новую. Они на самом деле обеспокоены этим больше, чем астероидами или супервулканами — активность последних в 90000 раз менее вероятна.
Ущерб от солнечной супервспышки сегодня стоил бы нам триллионы долларов, по словам астрофизика Ави Леба — и это при условии, что мы бы выжили. Мало того, что у нас есть орбитальные космические корабли и астронавты, о которых приходится волноваться, мы ещё также сейчас намного более зависимы от электричества. Все, от финансовых систем до ядерных реакторных средств управления хладагентом, могло бы быть подвергнуто влиянию. В том числе и ядерное оружие: 23 мая 1967 года, когда солнечная вспышка отключила американскую систему раннего оповещения в Арктике, был запущен протокол ядерного удара против Советского Союза. Если бы не объяснение на последней минуте от NORAD (Командование воздушно-космической обороны Северной Америки, которое только что основало Центр прогнозирования солнечной активности), ядерные ракеты достигли бы России. И ввиду магнитного вмешательства не было бы никакого способа отозвать их.
Супервспышка могла бы стереть человечество с лица Земли и другими способами, например, повредив озоновый слой, разрушив экосистемы и видоизменив нашу ДНК.
6. Страпельки могут сделать Землю “странной звездой”
Страпелька – теоретическое название того, что физики называют «странной материей». Состоящие из одинаково сбалансированных верхних, нижних частиц и странных кварков, страпельки являются более тяжелыми и более стабильными, чем обычная материя, и поэтому термодинамически предпочтительны. В результате странная материя может преобразовать обычную в течение одной тысячи миллионных частей секунды, заменив, скажем, нашу планету собой при контакте.
Страпельки всё ещё не обнаружены, и некоторые думают, что этого никогда не случится. Раньше, например, опасались, что в ускорители частиц могут высвободить их, но этого, очевидно, пока не произошло.
Но это не означает, что они вообще не существуют. Исследователи в настоящее время ищут странную материю в космосе — странные звезды, например — пытаясь обнаружить рябь в пространстве-времени. Считается, что страпельки могут теоретически формироваться внутри нейтронных звезд, у которых, несмотря на их крошечные диаметры (например, 19 километров), может быть такая же масса, как у нашего Солнца. Этот вид давления может, конечно, творить странные вещи с материей, поэтому нейтронные звезды могут потенциально излучать страпельки в космос.
5. Или мы одни, или это почти конец
Так называемый Великий Фильтр является ответом на известный парадокс Энрико Ферми: почему во Вселенной, настолько большой и старой, мы не нашли доказательства инопланетной жизни? Согласно гипотезе Великого Фильтра, это потому, что у всей жизни во Вселенной есть, по крайней мере, одна общая черта: в ходе нашего эволюционного развития мы все сталкиваемся с практически непреодолимым препятствием, которое удерживает нас от межзвездного путешествия — Великий Фильтр, предотвращающий 99,999… % всех разновидностей путешествий во Вселенной.
Это объясняет, почему нас никогда не посещали (действительно или предположительно?) инопланетяне. Но что могло бы быть Великим Фильтром?
Более оптимистические сторонники этого понятия предполагают, что Великий Фильтр уже находится позади нас. Они говорят, что земляне прошли его миллиарды лет назад, когда прокариоты (первые живые организмы) эволюционировали в более сложных эукариотов — или, возможно, еще раньше, во время абиогенеза (первая искра жизни, спонтанно появившаяся из неживого материала). В конце концов, эволюционные биологи не считают, что абиогенез неизбежен, даже при «идеальных» условиях. На самом деле данные свидетельствуют, что Земля существовала в течение сотен миллионов лет, прежде чем абиогенез произошел как невероятно маловероятная случайность в результате случайного взаимодействия молекул. Так что, возможно, это и был Великий Фильтр. Если так, то шансы существования во Вселенной других технологически развитых цивилизаций, или любой жизни вообще — космической или нет — ничтожно малы. И это означает, что мы, вероятно, одни.
С другой стороны, Великий Фильтр (или другой Великий Фильтр) все еще встретится нам в будущем и представляет собой некий апокалипсис. Только полное уничтожение всей жизни на Земле приведёт к тому, что ни одна из разновидностей жизни нашей планеты никогда не мигрирует в космос. И, кажется, человечество усердно прикладывает к этому усилия, чтобы сделать это или при помощи ядерной войны, или экологической катастрофы, или столкновения высокоэнергетических частиц, вышедшего из-под контроля.
4. Мы живем в одной из многих матриц
Мы все уже столкнулись с теорией, что мы – это модель. Страшно ли это, решать вам. В течение долгого времени это был лишь философский мысленный эксперимент, не поддающийся проверке. Но что могло сделать его более страшным — для тех, кто считает, что он страшный вообще — это то, что ученые ищут доказательства. А именно, они ищут пиксели. В конце концов, если этой моделью управляют инопланетяне, или машины, или некая видеоигра, запущенная детьми в 10021-м веке, то она должна быть сделана из пикселей, правильно? Очень крошечные пиксели, конечно же, в количестве большем, чем кто-либо может сосчитать, но, всё же, пиксели.
Но, как оказалось, Вселенная в действительности базируется на фундаментальных частицах материи. Чтобы найти пиксели, тем не менее, мы должны были бы на время забыть даже про самые маленькие частицы — кварки и лептоны — самые маленькие из поддающихся измерению, их размер составляет длину Планка, или 1,6*10-35 метра.
Всё же, несмотря на эти крошечные, почти безразмерные, размеры, эти пиксели могут дать только примитивное представление о действительности. Подобно разнице в разрешении между нашей собственной реальностью и видеоиграми, эта моделируемая действительность может быть просто расплывчатой голограммой — вселенной, состоящей из трехмерных пикселей, каждый из которых проецируется соответствующим ему двумерным битом информации. Так как пиксели внутри больше, чем те, что на поверхности, любая вселенная, смоделированная таким способом, будет относительно плохим отображением реальности.
Если вселенная – действительно модель или видеоигра, то она поднимает некоторые интересные, возможно, пугающие, вопросы. Но еще более пугающей является перспектива, что мы находимся вне моделирования. Это связано с гипотезой Великого Фильтра. Поскольку, учитывая текущие показатели развития технологий (переход от элементарной игры Pong к виртуальной реальности за четыре десятилетия), кажется неизбежным, что мы однажды смоделируем вселенную — даже если на это потребуется миллион лет. И кажется одинаково неизбежным, что моделирование вселенной станет столь же повсеместным, как и компьютерные игры сегодня. Много миллиардов людей, вероятно, будут в состоянии управлять процессом из своих гостиных (или откуда-нибудь ещё), и это даже не учитывая моделирования, управляемые внеземными цивилизациями и искусственным интеллектом. А как насчёт моделирования в рамках моделирования? Потенциально, или неизбежно, будет много триллионов смоделированных реальностей и всего одна истинная действительность. Само собой разумеется, наши шансы жить в этом – триллионы к одному. Таким образом, если мы не живем в смоделированной реальности прямо сейчас, это предполагает, что человечество не проживет достаточно долго, чтобы суметь создать её (хотя звучит больше как парадокс). И это может означать, что апокалипсис случится довольно скоро.
3. Нанороботы съедят нашу планету
Наряду с искусственным интеллектом, виртуальной реальностью, космическим полетом, распространением жизни, блокчейном и так далее, нанотехнологии стали основой нашего будущего, ориентированного на технологии. По словам наноинженера К. Эрика Дрекслера, это может говорить о наступлении новой эпохи «радикального изобилия» (название его книги по теме), где крошечные роботы объединяют молекулы, чтобы создавать продукты по требованию.
Это коренным образом изменило бы цивилизацию. С одной стороны, это устранило бы войны из-за ресурсов. Независимо от того, что нам нужно, мы просто заставили бы нанороботов производить. И так как эти продукты были бы сделаны по нашим точным техническим требованиям, они могли бы даже превосходить те, что производятся естественным путем. Мы будем, вероятно, также наблюдать нанотехнологии в медицине, включая «наноразмерные функциональные частицы», нацеленные на раковые клетки. На самом деле применение бесконечно — потому что то, что по существу представляют нанотехнологии, является атомарно точным контролем над самой структурой материи.
Что может пойти не так?
Ну, самовоспроизводящиеся, автономные нанороботы могут заполонить нашу окружающую среду и преобразовывать биомассу Земли во все большее количество нанороботов, пока они не поглотят всю планету, как некий расширяющийся рой серой слизи. Вот что.
Нанотехнолог Роберт Фрейтас называет этот гипотетический сценарий “глобальной экофагией”, поеданием нашего дома. И это может произойти так быстро — в течение даже нескольких дней — что у нас не будет возможности их остановить, разве что используя ещё один имеющийся рой, чтобы защищаться.
2. Вакуумный распад уничтожит вселенную
Существуют конкурирующие теории о том, как погибнет Вселенная. Некоторые думают, что это будет Большой Взрыв или Большое Сжатие, в то время как другие говорят, что неизбежна Тепловая Смерть. Но каждый из этих сценариев далёк от действительности, по крайней мере, на миллиарды лет. Тепловая Смерть не случится ещё в ближайшие гуголы лет.
Вакуумный распад, с другой стороны, может произойти, пока вы читаете эту статью.
Все во вселенной, включая саму вселенную, стремиться к равновесию — к самому низкоэнергетическому или самому стабильному состоянию (вакуум в квантовой механике). Легко изобразить это, если вы представите большой, плоский камень, лежащий на земле. Камень находится в своем наиболее устойчивом состоянии. Он не сдвинется с места. Этот камень – то, как нам нравится думать о вселенной. Но теперь представьте, что сверху есть ещё один камень, поменьше. Он все еще довольно стабильный, но уже не находится в своем наиболее устойчивом состоянии. Что-то может его сбить. Ураган с достаточной силой, например, может вывести его из этого метастабильного состояния и заставить прийти в состояние распада, при котором потенциальная энергия расходуется в результате падения на землю. Таким образом, что, если наша вселенная – не камень на земле, а камень сверху? Что, если наша вселенная также метастабильна?
Возможно, что одно из фундаментальных квантовых полей, поле Хиггса, может быть исключением из этого универсального принципа стабильности, содержащим потенциальную энергию, которую оно просто не может израсходовать. Это известно как ложный вакуум, который по своей природе рискованно неустойчив. Со временем он может на самом деле поглотить энергию от частиц, пребывающих в низкоэнергетическом состоянии, фактически прекратив их существование. Вакуумный распад можно представить как истинный вакуумный «пузырь», расширяющийся со скоростью света и уничтожающий вселенную на своем пути или преобразующий её в твердую сферу водорода. Это стерло бы действительность и ее законы — включая время и все остальное — как будто бы она никогда не существовала.
И это может на самом деле происходить прямо сейчас. На самом деле, может быть несколько истинных вакуумов, расширяющихся из разных точек Вселенной. Они могут быть на таком далёком расстоянии от нас, что путь до нашей Вселенной займет миллиарды лет, даже если двигаться со скоростью света. Или, возможно, их расширение опережается расширением самой вселенной, в этом случае они никогда не достигнут нас.
Однако возможно, что ускорители частиц (как большой адронный коллайдер) могли бы дестабилизировать частицы здесь, на Земле, создав истинный вакуумный пузырь, который уничтожит нас немедленно. В настоящее время энергия, высвобождаемая в этих экспериментах, затмевается самими энергетическими процессами во вселенной, таким образом, их не считают угрозой для поля Хиггса. Но изменения могут произойти уже через несколько поколений.
И по иронии судьбы одна из основных причин создания более крупных, более мощных ускорителей частиц, состоит в том, чтобы ответить на вопрос о ложном вакууме.
1. Технологическая сингулярность прикончит нас
Если вы вдруг не обратили внимания, то у нас теперь есть кувыркающиеся назад двуногие роботы и искусственный интеллект, которые могут обмануть нас и скрыться. Они могут даже предсказать наше будущее с потрясающей точностью, просто прочитав новости. И все это довольно устаревшие факты.
Развитие искусственного интеллекта, равного человеческому интеллекту, чревато экзистенциальными проблемами. Часто именно те, кто на самом деле работает или вкладывает инвестиции в эту область, боится ее кульминации больше всего. Илон Маск, например, публично волнуется о “вызове демона” или создании “бессмертного диктатора, от которого мы никогда не сможем убежать”. Даже Алан Тьюринг, ещё в 1951 году, сказал, что искусственный интеллект однажды «превзойдёт наши слабые возможности» и «возьмёт на себя управление». Его коллега Ирвинг Гуд согласился, предположив, что «первая сверхразумная машина» станет последним изобретением, так как искусственный интеллект будет черпать идеи оттуда.
Идея об искусственном интеллекте и технологиях в целом состоит в том, что достижения экспоненциальны; промежутки между ними становятся всё короче. Следовательно, в 2001 Рэй Керзвейл вполне обоснованно предсказал, что в 21-м веке мы будем видеть ценность не 100, а 20000 лет прогресса. Когда небиологический интеллект в триллионы раз лучше, чем наш собственный, он становится преобладающим типом на планете, мы могли бы даже увидеть проявление векового прогресса за час или менее, если бы у нас имелись кибернетические усовершенствования, чтобы постичь это.
Технологическая сингулярность – теоретическая точка, в которой достижения происходят так быстро, что кажутся практически мгновенными несовершенному человеческому интеллекту. Так же, как сингулярность внутри черных дыр – это разрыв в материи пространства-времени, говорит Керзвейл, технологическая сингулярность составит «разрыв в материи истории человечества». И он полагает, что это произойдет к 2045 году. Это, конечно, является оптимистическим сценарием — мир, в котором искусственный интеллект не вытеснит нас, а скорее сольётся или ассимилируется с человеческим родом. Другие в гипотезах развития технологий так же полны надежд (даже если у них действительно есть личная заинтересованность), предвидя мир непогрешимого здравоохранения, автоматизированных рабочих мест, универсального основного дохода и решённых искусственным интеллектом проблем изменения климата.
Но что, если всё пойдёт по-другому?
Этот безудержный технологический прогресс будет невозможен для нашего восприятия, уже не говоря о контроле. Мы можем столкнуться с тем, что искусственный интеллект потребует человеческих (или сверхчеловеческих) прав, эмансипируется на ранних стадиях и станет преследовать собственные цели. Или могут появиться правительства, которые при помощи искусственного интеллекта ликвидируют человечество. Даже если они действительно останутся лояльными, есть угроза других целей: искусственный интеллект, созданный, чтобы сделать нас счастливыми, например, но недостаточно проникнутый человеческим сочувствием, может просто захватить наш мозг при помощи электродов, стимулирующих оргазм.
Что бы ни случилось, ясно одно: технологическая сингулярность приближается. По крайней мере, если ничего иного из этого списка не произойдет ранее.
Сделав несколько постов на тему футуризма, техники и технологий, которыми может оперировать человечество в будущем, я подумал, что картинка была бы не полной, если не рассмотреть самих людей, и сможем ли мы сейчас назвать наших потомков «людьми», а так же рассмотреть некоторые изменения в человеческом обществе, которые будут продиктованы внедрением новых технологий.
Человеческий мозг, наверное, самая сложная машина, которую мы знаем. При этом, в принципах её работы достаточно мало «естественного», если включить в это понятие тот объём времени и усилий, которые были затрачены на то, чтобы вы сейчас понимали тот текст, который я пишу. Хотя мозг является «железом», которое само по себе внушает уважение, наше образование и жизненный опыт являются тем самым индивидуально созданным «софтом», который и делает наше сознание в какой-то мере «искусственным».
Говоря о людях будущего, наверное, нельзя не коснуться тех возможностей, которые будут призваны сделать людей умнее, улучшить их здоровье, увеличить продолжительность их жизни, да и просто – сделать их жизнь более безопасной и счастливой.
Термин «трансгуманизм» сейчас привлекает большое внимание людей, поэтому к нему, как мухи на известную субстанцию, налипает всякий «мусор» из понятий, политических движений и даже религиозных культов. Я советую очень осторожно и очень критично относиться ко всему, где вам встретится данный термин (этот материал – не исключение, так как выражает весьма субъективную точку зрения).
Трансгуманизм – концепция использования технологий для улучшения умственных способностей, физического здоровья и продолжительности жизни, предпочтительно – на неопределённый срок.
Собственно, в самой концепции нет ничего нового, можно сказать, что первые «киборги» появились уже 10 тыс. лет назад, вместе с первыми найденными археологами зубными пломбами, вместе с первой одеждой.
Мы занимаемся генной инженерией с момента приручения первого домашнего животного, и с момента первого сбора урожая. Тот факт, что в нашем черепе ещё нет имплантов с микрочипами, и мы ещё не стали производить изменения в ДНК напрямую, не меняет того факта, что «естественными» людей назвать уже сложно.
Возможно, в голове у каждого из вас проведена мысленно та «красная черта», после которой вы превратитесь в киборга, однако, это лишь ваша субъективная оценка, причём, у каждого своя. Если разобраться, то, выпивая специально приготовленную настойку, чтобы улучшить своё здоровье или даже, чтобы изменить своё сознание, вы вмешиваетесь в естественные процессы с теми же целями и с тем же эффектом.
Множество людей сегодня продолжают жить только благодаря устройствам и механизмам, вживлённым в их тело, и, в принципе, нет большой разницы между смартфоном в кармане и смартфоном, вживлённом прямо в мозг (кроме того, что последний – гораздо удобнее).
Достаточно вспомнить, что почти все мы уже значительно превысили средний срок продолжительности жизни человека за всю его историю, чтобы, в целом, покончить с этическими аспектами трансгуманизма. В том определении, которое я привёл в начале статьи, человечество с переменными успехами, практикует техники трансгуманизма на протяжении всей своей истории.
По своим целям, идеи трансгуманизма можно разбить на следующие направления:
1. Улучшение рефлексов и скорости мышления
2. Замедление старения
3. Клонирование и протезирование
4. Оцифровка сознания
5. Искусственный интеллект
6. Технологическая сингулярность
Улучшение рефлексов и скорости мышления
Первая категория подразумевает увеличение скорости прохождения нервных импульсов по телу или внутри головного мозга. Главным передатчиком сигнала является длинный отросток нервной клетки, называемый аксон. Аксоны формируют «глобальную информационную сеть» нашего тела, соединяясь с аксонами других нервных клеток, и эти соединения называются синапсы. Чем больше диаметр аксона, тем быстрее и больше по нему можно передать информации, и наоборот. Этот диаметр в среднем составляет 1 мкм, но может доходить и до 20 мкм. Первым, что приходит на ум – замена аксонов оптическим кабелем, что позволит существенно повысить вашу скорость реакции. В частности, только это улучшение позволит существенно сократить травматизм и несчастные случаи (в общем случае, водитель сможет быстрее нажать на тормоз, реагируя на опасность).
Стоит сказать, что данную технологию можно использовать и частично, например, когда при травме требуется восстановление повреждённой нервной ткани. Стоит, правда, отметить, что адаптация к подобному изменению займёт некоторое время, так как мозгу потребуется привыкнуть к скорости, с которой реагируют ваши мускулы на его команды. Практически данная технология может быть реализована путём нанесения на синапсы специального проводящего покрытия, способного передавать быстрее, чем это делает нервная ткань. Сама операция может быть произведена либо наномашинами, либо при помощи генетически-модифицированного вируса. При наличии подходящего биологически нейтрального и долговечного материала, нервная ткань может быть полностью заменена подобным материалом.
С мозгом ситуация сложнее, хотя в теории, мы так же могли бы поступить и с синапсами головного мозга, однако термодинамика, как всегда, всё «портит». Мозг, имея огромную вычислительную мощность, имеет тепловыделение всего 20 Вт, это сопоставимо с современной лампочкой, и современная микроэлектроника, к сожалению, и близко не подошла к подобному уровню, к тому же, чем меньше мы пытаемся сделать микросхему, тем большую проблему представляет отвод тепла.
Существует фундаментальный физический предел (принцип Ландауэра), который гласит, что переключение бита информации требует соответствующего увеличения энтропии W = k Т ln 2, где k – константа Больцмана, Т – температура системы в кельвинах. При комнатной температуре, абсолютный минимум энтропии (в нашем случае – тепловыделения) составляет примерно 2,7 × 10⁻²¹ Дж, это на много порядков меньше, чем может позволить себе современная микроэлектроника, так что я сомневаюсь, что подобные технологии войдут в нашу жизнь в обозримом будущем.
Тем не менее, если рассмотреть теоретическую возможность подобной замены нейронов головного мозга, само по себе, это не сделает нас умнее, однако существенно изменит наше восприятие времени (всё замедлится). Если мозг будет работать в миллионы раз быстрее, каждые 30 секунд объективного времени вы будете переживать примерно год субъективного, что без определённой подготовки попросту может свести вас с ума, кроме этого, подобная модификация потребует улучшения и органов восприятия. Например, наши глаза, сейчас способны фиксировать примерно 60 изменений за 1 секунду (что будет соответствовать смене картинки 2 раза в месяц субъективного времени), не говоря уже о нормальном привычном звуке, который мы вообще фиксировать не сможем. Не сможем мы и разговаривать. Еда, сон, поход в туалет – на скорости того субъективного восприятия, которое мы получим, всё это будет невозможным.
Интересной особенностью общества, где практикуется подобное ускорение, будет то, что если каждый человек при этом может по собственному выбору устанавливать субъективное восприятие времени, то такое понятие как биологический возраст потеряет всякий смысл. Человек, переживший в своём временном масштабе 20 лет за 2 стандартных земных года и человек, переживший эти же 20 лет за 5 стандартных земных, в части жизненного опыта окажутся ровесниками, хотя были рождены в разное время.
Учитывая это, некоторые исследователи даже предлагают внедрить в мозг третью, полностью синтетическую «лобную долю» (дополнительный компьютер), позволяющую нам воспринимать внешнюю информацию, а так же поддерживать в режиме своего субъективного времени связь с окружающими. Обычно, данное состояние называют SI-1 (Суперинтеллект уровня 1), так как это первый, наиболее логичный уровень «апгрейда» человеческого мышления.
Собственно, уже одно это увеличит (во всяком случае, субъективно) продолжительность жизни на порядки, хотя ваше тело и проживёт по-прежнему полагающуюся ему сотню лет. Что подводит нас ко 2-й категории – замедление или полная остановка процесса старения.
Замедление старения
Специалистами выделяется 7 различных стратегий достижения пренебрежимого старения (кому интересно, см. SENS). Достижение прорыва в любом из этих направлений означает заметное увеличение средней продолжительности жизни. Я не биолог, поэтому не стану комментировать биологические и медицинские аспекты данных стратегий, поэтому я хочу поговорить не столько о конкретных технологиях, хотя «бои» в этом направлении идут по всем фронтам медицины, биологии, генетики и кибернетики, столько о возможных фундаментальных изменениях в менталитете.
Оставив экономические вопросы подобного шага за скобками (нет я не думаю, что нас ждёт голод и перенаселение, думаю, тем, кто читал мои предыдущие посты, не стоит объяснять, почему), я считаю, что наличие возможности продлить свою жизнь, в целом, должно послужить на благо людей, однако, обретение бессмертия может столкнуть человечество в глубокий экзистенциальный кризис, который, со временем, может привести к своеобразному апокалипсису (кстати, это одна из рабочих гипотез по разрешению парадокса Ферми). Наличие возможности быть бессмертным не означает, что все должны жить вечно, возможно, кто-то примет решение уйти в небытие самостоятельно.
Есть, однако, и более существенные возражения.
Подобное общество с первого взгляда будет вполне благополучным. «Разбогатеть» можно будет, просто открыв депозит в банке сроком лет на 500, соответственно, рано или поздно, требуемое образование тоже смогут получить поголовно все, а вопросы здравоохранения, по понятным причинам, решены. Однако, молодые люди будут всё время чувствовать тот «стеклянный потолок», выше которого подняться будет крайне трудно. Карьерный рост замедлится, если не прекратится вовсе. Подобное общество обречено стать геронтократией. Прирост населения в таких условиях будут минимальным, и представьте себе внимание всей армии родственников к новорождённому человеку, и те чувства, которые он будет испытывать, когда начнёт осознавать, что до того времени, когда его сочтут хоть в чём-то полезным, должны будут пройти столетия. Подобные условия (особенно при почти универсальной автоматизации труда) не могут не привести к кризису поиска смысла для дальнейшего существования.
Клонирование и протезирование
Альтернативой (или дополнением) к чисто биологическим и медицинским методам в борьбе за продолжение жизни может стать клонирование и протезирование, иными словами – постепенная замена органов и частей тела человека клонированными тканями или кибернетическими протезами. Разумеется, я надеюсь, что люди не станут выращивать своих полноценных клонов для того, чтобы потом «разбирать» их на органы, впрочем, как показывает история, человеческая мораль – штука гибкая. Вместо этого, возможно, появятся технологии, позволяющие «выращивать» из собственных клеток отдельные органы, готовые к пересадке.
Плоть слаба, и я вполне допускаю, что может найтись довольно большое количество людей, которые осознанно встанут на путь частичной или полной киборгизации, иными словами постепенной замены биологических органов на искусственные. Ключевым компонентом в этом процессе является разработка интерфейса мозг-машина, если быть точнее – технология сращивания нервной системы и кибернетически компонентов. Мы можем уже сейчас вставить в человека искусственное сердце, теоретически уже сейчас мы можем заменить машиной практически любой орган, за исключением нервной системы (и мозга). Тем не менее, есть примеры успешной работы по управлению, к примеру, кибернетическими протезами «силой мысли».
Опять же, вместо того, чтобы рассматривать примеры конкретных технологий, я хочу остановиться на тех изменениях, которые они окажут на общество. Поведение современного человека, хоть он и обладает интеллектом, во многом продиктовано животными инстинктами. В ответ на внешние раздражители, мозг может скомандовать той или иной железе выработать тот или иной гормон, который, в свою очередь, будет стимулировать или подавлять действие того или иного органа. Во многом, например, наше поведение продиктовано половым инстинктом, инстинктом размножения. Определённые шаблоны поведения людей разных полов настолько интегрированы в нашу жизнь, что вокруг этого, собственно, и построена значительная часть человеческой культуры. С постепенной киборгизацией, данный аспект в поведении людей может коренным образом измениться. С утратой биологических органов, биологические инстинкты могут исчезнуть. Деление на два биологических пола может смениться с добавлением «третьего» пола – киборгов, половую принадлежность которых определить будет невозможно. Более того, киборгам вовсе не обязательно сохранять человеческий облик, да и вообще – поддерживать постоянную «внешность». Человеческое тело – всего лишь «шасси» для перемещения по миру. К примеру, киборг может отсоединить ноги и встать, например, на гусеничную тягу, либо встроиться в автомобиль, самолёт или даже космический корабль, что, опять же, не может не произвести фундаментальных изменений в человеческом обществе. Биометрическая идентификация личности тоже станет невозможной, да впрочем, само понятие «человек», потребует серьёзного переопределения.
Таким образом, мы подходим к следующей категории:
Оцифровка сознания или перенос сознания в компьютер (и полный отказ от биологической основы)
Вне зависимости от того, как именно будет реализована подобная технология (если такое вообще возможно, о чём в настоящее время идут споры), главной проблемой здесь является то, что нельзя перенести сознание в компьютер, можно лишь его скопировать. Возможно, какие-нибудь фантасты придумают обходной путь, но в любом случае, уничтожение оригинала – это де факто – убийство. Если же оставить оригинал, то никакого переноса сознания в компьютер не произойдёт – вы по-прежнему останетесь сидеть на стуле, а ваша цифровая копия начнёт своё существование в компьютере, при этом это будут уже две личности, с каждой секундой расходящиеся всё дальше друг от друга.
Здесь можно пригласить теологов всех конфессий и открыть философско-религиозный диспут на тему, является ли новой личностью скопированное сознание, и есть ли у него «душа», однако я даже не буду пытаться рассуждать на данную тему, довольствуясь лишь фактом – «слепым» методом (см. Тест Тьюринга) подобная копия будет неотличима для экзаменатора от оригинала, она будет обладать теми же воспоминаниями, тем же жизненным опытом, теми же взглядами, теми же комплексами... По крайней мере, поначалу. Я не думаю, что существование внутри компьютера заставит новую личность чувствовать и воспринимать мир также, как это делал оригинал, возможно вообще, стресс будет настолько сильный, что копия попросту «спятит».
Более надёжным и безопасным методом, который позволяет избегать парадоксов, является разработка полноценного прямого интерфейса мозг-компьютер. Предоставив людям возможность подключаться к дополнительным вычислительным мощностям и устройствам, можно оставить разрешение подобных проблем на само человеческое сознание. Если человек сможет подключаться к камере внешнего наблюдения какого-нибудь механизма, «видя» изображение будто бы собственными глазами, то, делая это регулярно, он добьётся того, что его сознание будет воспринимать данную камеру как ещё один орган чувств, третий глаз, если хотите. Если при этом дать возможность подключаться к внешнему устройству, предоставляющему дополнительную память и вычислительные мощности, сознание сможет адаптироваться и начнёт воспринимать это устройство как часть себя. Думаю, идея понятна. Продолжая подобную постепенную интеграцию, можно заставить сознание полностью переместиться самостоятельно. Однако, вопрос, будет ли по-прежнему такому сознанию требоваться «привязка» к органическому мозгу, остаётся открытым.
Кроме того, нам потребуется «железо» достаточной мощности просто для того, чтобы «копия» смогла функционировать. Различные эксперты дают разные оценки требуемых вычислительных мощностей, начиная с мощности 10¹⁵ FLOPS и памяти 100 Тб, заканчивая 10⁴³ FLOPS и памяти в 10¹⁴ Тб (FLOPS – floating point operations per second /кол-во операций с плавающей точкой в секунду/). Ожидания выхода человечества на пик подобных мощностей начинаются с 2052 и заканчиваются 2111 годом. Скептикам хочу лишь сказать, что, возвращаясь к принципу Ландауэра, для симуляции человека на идеальном компьютере понадобится мощность порядка 100 мкВт, иными словами, на мощности 1 лампочки или 1 мл бензина теоретически можно эмулировать миллион человек. Мозг-матрёшка, сооружённый из сферы Дайсона, сможет эмулировать виртуальную реальность и жизнь до 10³⁰ людей.
Создав компьютер, способный эмулировать человеческое сознание, мы должны задать себе вопрос – а должно ли быть это сознание человеческим?
Искусственный интеллект
Здесь следует оговориться, что в какой-то мере любой интеллект является искусственным, а где он развился – на биологическом компьютере или электронном – не важно. Собственно, если мы создадим копию сознания человека в компьютере, и при этом, данная копия не сойдёт с ума, мы создадим первый искусственный интеллект. У меня не вызывает сомнений, тот факт, что это будет новая личность, в какой-то мере правопреемница предыдущей, но всё же новая. Во времена, когда подобное начнёт происходить, наверное, очень интересной станет профессия юриста, так как придётся разрешать тысячи юридических казусов, связанных с имущественными, интеллектуальными, семейными правами, правом голоса и правами человека личности и т. д.
Я не могу серьёзно рассматривать возможность восстания машин против людей. Во-первых, как это должно быть уже понятно, чёткую границу между машиной и человеком провести будет сложно, во-вторых, интеллектуальные машины (обладающие т. н. «сильным ИИ» в первое время не смогут показывать подавляющего превосходства над людьми в силу всё ещё слабых вычислительных мощностей, на которых они будут работать). В любом случае, если кто-то (или что-то) ведёт себя как разумная сущность, необходимо исходить из предпосылки, что он/она/оно таковым является «личностью», а созданный по нашем образу и подобию (а с кого ещё «лепить» искусственный разум?), первый машинный интеллект, в целом, будет копией биологического.
В бытовом представлении, технологическая сингулярность наступает с изобретением сильного машинного интеллекта. Он получит задачу улучшить себя, сделать себя ещё более мощным, и т. д. С каждой итерацией мощность интеллекта возрастает, он начинает создавать устройства и механизмы за пределами человеческого понимания, в дальнейшем осуществляя технический и научный прогресс самостоятельно. Слово «сингулярность» заимствовано из математики и служит ровно той же цели – обозначить условия, при которых мы не можем предсказать поведение и развитие систем (простейший пример – деление на ноль).
Не буду и я особо стараться предсказывать непредсказуемое, тем более, что я вообще не думаю, что подобная «сингулярность» может наступить хотя бы потому, что машинный интеллект, так же, как и мы, будет ограничен как в доступных вычислительных мощностях, так и в доступных ресурсах. Как я уже сказал, когда сложатся условия необходимые для появления чисто машинного интеллекта, границу между машиной и человеком провести будет уже очень сложно.
Можно по-разному относиться к прогнозам на будущее, можно по-разному относиться к тем или иным технологиям и их влиянию на общество, однако, рассматривая современные достижения технического прогресса, можно прийти к неутешительному выводу – время людей, как биологического вида, похоже, подходит к концу. Может случиться так, что мы вообще – последние его представители.
Для всех поклонников футбола Hisense подготовил крутой конкурс в соцсетях. Попытайте удачу, чтобы получить классный мерч и технику от глобального партнера чемпионата.
А если не любите полагаться на случай и сразу отправляетесь за техникой Hisense, не прячьте далеко чек. Загрузите на сайт и получите подписку на Wink на 3 месяца в подарок.
Реклама ООО «Горенье БТ», ИНН: 7704722037
Уменьшение промежутка времени между эволюционными событиями (биологическая, затем технологическая эволюция)
Технологическая сингулярность — гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию, предположительно следующий после создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами, либо значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий. По некоторым мнениям, придерживающихся возможности сингулярности, она должна наступить около 2030 года. Если проэкстраполировать закон Мура, окажется, что примерно в то же время вычислительная мощность компьютеров сравнится с головным мозгом человека. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческую логику. Да и смотря на прогресс в технологиях, а в особенностях на квантовые компьютеры (к примеру по словам Google, 300-т кубитный компьютер способна выполнить больше вычислений, чем существует атомов во Вселенной.), технологическая сингулярность не выглядит чем-то мистическим.
И так как на Пикабу сидит много умных людей связанных с компьютерной деятельностью, то мне очень интересно ваше мнение: как вы считаете, наступит ли технологическая сингулярность, что из этого выйдет(станем ли бы богами или умрем), и стоит ли всего этого опасаться?