Покайтесь, ибо приближается час
T700
T700
T800
T800
T700
T700
T800
T800
Источник : Первый научный
Сегодня хочу поговорить, о нереальности ИИ, который представила компания Adobe, в своей новой бете Фотошопа.
- Возможность выделять любое место
на фото, и сгенерировать там всё что пожалеешь, например мы можем выбрать пустое пространство рядом с головой и ввести запрос «шапка», то на голове появится шапка и она будет выглядит, как там и была. Конечно проще один раз увидеть, чем я буду объяснять на словах.
Посмотрите на фото выше, и просто вдумайтесь, что теперь может ИИ, она как будто знает как выглядят миллионы дворов или точно видела такой и просто повторяет, но это поражает моё воображение. Вдруг восстание роботов не за горами ?
Какие ваши мысли по этому поводу ?
У меня тут, уважаемые коллеги, мысль родилась. Вот человеки все пытаются искусственный интеллект создать. Милиарды денег тратят, тонны нефти на электричество переводят, километры исследований. Но все никак.
А может, все дело в том, что у человеков интеллект появился не в ходе целенаправленной деятельности, а в результате случайной эволюции? Ну, потому что так вышло. Без какой-либо цели. Просто умные человеки смогли родить больше детей, чем неумные.
Ну, и отсюда отсутствие рациональных идей в самом существовании разума. Кто его знает, зачем он. Кто его знает, зачем мы.
А ИИ пытаются сделать для какой-то конкретной цели. Ну, там, решения за человеков принимать, управлять чем-то. Может, потому и не получается, что цель изначально поставлена при создании? Тогда выходит, что, теоретически, машину с мозгом сделать можно, но вот что она потом делать будет - будет решать уже сама машина. Как человек, который в своей жизни решает, что делать. Ну, в определенных рамках, само собой. Выше себя не прыгнешь.
Портянка получилась, простите.
Несомненно, вы привыкли к сенсационным заголовкам, особенно если дело доходит до шокирующей науки. Но лучше сделайте глубокий вдох, потому что…
10. Скоро ожидается зомби-апокалипсис
В 1986 году британская говядина, как выяснилось, была заражена КГЭ (коровья губчатая энцефалопатия) после того, как коровы питались порошком, сделанным из коровьих и овечьих туш. Даже после официальных заявлений экспертов пресс-служба правительства утверждала, что это мясо всё ещё пригодно в пищу. Но со временем выяснилось, что это не так. В 90-х годах у двадцати британцев диагностировали человеческую форму болезни, известную как вариативная болезнь Кройцфельд-Джэйкоба.
Как куру (разновидность болезни, наблюдающаяся у жителей Папуа–Новой Гвинеи, прославившихся поеданием мозгов своих соплеменников), вариативная болезнь Кройцфельд-Джэйкоба мутирует, или неправильно сворачивает прионные белки, что в конечном итоге приводит к смерти. Однако иногда инкубационный период (время, прошедшее от заражения до появления первых симптомов болезни) может составлять более 60 лет. Другими словами, любой, кто ел британскую говядину в составе детского питания или желатина во времена эпидемии, мог быть заражен, даже не подозревая об этом. А в США большинство коров были убиты задолго до того, как начали проявляться какие-либо симптомы, так что они тоже могли быть заражены. Только 20 тысяч из 40 миллионов действительно проходят тщательное ветеринарное обследование. Поэтому вспышка вариативной болезни Кройцфельд-Джэйкоба может случиться в недалеком будущем.
Симптомы этой болезни включают в себя агрессивные изменения личности, потерю памяти и проблемы с ходьбой. Звучит почти как неизбежный зомби-апокалипсис, за исключением того, что этой инфекцией практически невозможно заразиться (только если ты ешь мясо). Ученые считают, что заражение не может произойти воздушно-капельным путём, половым путём заразиться тоже невозможно, как и при попадании в ваш организм крови инфицированного.
Но всё же, где-то в Великобритании, где было зарезано и съедено около 2 миллионов бешеных коров, имеется огромное количество заражённых мозгов. И без получения надлежащего лечения они все обречены на смерть.
9. Мы не сможем предотвратить космическое столкновение с планетой
В 2015 году на Хэллоуин астероид диаметром примерно 600 метров (2015 ТВ145), который визуально был очень похож на череп, пролетел от Земли на расстоянии всего в 1,3 раза больше, чем расстояние от Земли до Луны. Даже небольшое изменение его курса было бы губительным для Земли. При начальной скорости 17 км/сек. и плотности 2600 кг/м3 он бы упал на землю с силой в 2800 мегатонн. Это в 56 раз больше, чем мощность самой большой термоядерной бомбы, Царь-бомбы, которая, в свою очередь, в 1570 раз мощнее двух бомб, сброшенных на Хиросиму и Нагасаки.
Конечно, есть определённый ряд действий, который мы могли бы выполнить, если заметили бы приближающийся к нашей планете астероид. Мы могли бы запустить в него ядерной ракетой, чтобы попытаться изменить его курс. Или протаранить специально созданной для этого ракетой. Астрономы предложили увести его в сторону при помощи плазменной бомбардировки с космических кораблей. Или просто раскрасить его в белый цвет для того, чтобы позволить фотонам солнца самим завершить эту работу.
Но проблема всех этих проектов – время их осуществления. В большинстве случаев у нас даже нет нужных технологий. И даже если бы в нашем распоряжении была правильная стратегия и космический корабль, чтобы ее осуществить, нам понадобился бы почти год, чтобы запустить его. Разработка относительно небольших космических миссий, например, может занимать до четырёх лет.
Но мы узнали о существовании Хэллоуинского астероида всего за три недели до его прохождения около Земли. Этого времени явно недостаточно, чтобы хоть как-то обезопасить себя.
Мы, конечно же, достигли определённых успехов в отслеживании до 90% астероидов, способных стереть нас с лица земли, но 60% астероидов размером с 2015 TB145 (способным к уничтожению континента) остаются, как говорится, неучтенными.
8. Изменение климата вызовет суперизвержения
Последний раз Йеллоустон мощно «прорвался» 640000 лет назад, что привело к извержению 1000 км³ лавы, пемзы и пепла в воздух. Один из супервулканов Индонезии выбросил в воздух почти в три раза больше — 2800 км³ всего 74000 лет назад. В 2012 году исследователи пришли к заключению, что Йеллоустон вряд ли «прорвется» так катастрофически, по крайней мере, в ближайшие несколько веков. Американская геологическая служба сообщает, что ежегодный шанс составляет 1 к 730000, или 0,00014%, когда извержения по силе равны столкновению с астероидом. Но, как они отмечают, эти шансы просто основаны на усреднении двух интервалов между последними тремя основными извержениями, таким образом, они едва ли надежны. Как они указывают, «катастрофические геологические события нерегулярны и непредсказуемы».
И ещё одним фактором, который мы не склонны учитывать, является изменение климата. Мы знаем, что суперизвержения вулкана определенно оказывают влияние на климат, но, кажется, имеются и другие факторы. Исследователи обнаружили, что даже незначительное глобальное потепление существенно увеличивает вероятность извержений. Теоретически, это имеет отношение к таянию ледников, которые мешают магме подниматься. И в то время как это действительно не относится к Йеллоустону (хотя уровень оледенения в регионе существенно изменился с течением геологических эпох), это могло быть разрушительным последствием в случае с менее известными вулканами, такими как вулкан Рейнир на Тихоокеанском северо-западе. Кстати, вулкан Рейнир был описан как «один из самых опасных вулканов в мире», потому что он находится в очень густонаселенном регионе.
7. Завтра Солнце может нас уничтожить
1 сентября 1859 года астроном Ричард Кэррингтон наблюдал из своей обсерватории, как группа необычных вспышек начала источать ослепляющий белый свет. На рассвете на следующий день небеса во всем мире — даже в тропиках — ожили с пульсирующими аврорами фиолетового, красного и зеленого цвета. Между тем, системы телеграфа (единственная электроника широкого пользования в то время) стали непрочными, искрили, ударяя током операторов и даже поджигая бумагу. На самом деле атмосферное электричество было столь мощным, что телеграммы можно было послать даже с разъединенными системами. Земля была во власти геомагнитного шторма, «гигантского облака заряженных частиц и обособленных магнитных петель».
Вспышка Кэррингтона была беспрецедентна. Естественно, некоторые приняли её за конец света. Но то, что они на самом деле засвидетельствовали, было крупной солнечной вспышкой, магнитным взрывом на Солнце, сопровождаемом изгнанием массы кроны (плазменное и магнитное поле). В наше время мы записываем такие события в космосе, используя рентген и радиоволны. И так как с тех пор не было ни одной вспышки такой величины, астрономы думают, что мы должны ожидать новую. Они на самом деле обеспокоены этим больше, чем астероидами или супервулканами — активность последних в 90000 раз менее вероятна.
Ущерб от солнечной супервспышки сегодня стоил бы нам триллионы долларов, по словам астрофизика Ави Леба — и это при условии, что мы бы выжили. Мало того, что у нас есть орбитальные космические корабли и астронавты, о которых приходится волноваться, мы ещё также сейчас намного более зависимы от электричества. Все, от финансовых систем до ядерных реакторных средств управления хладагентом, могло бы быть подвергнуто влиянию. В том числе и ядерное оружие: 23 мая 1967 года, когда солнечная вспышка отключила американскую систему раннего оповещения в Арктике, был запущен протокол ядерного удара против Советского Союза. Если бы не объяснение на последней минуте от NORAD (Командование воздушно-космической обороны Северной Америки, которое только что основало Центр прогнозирования солнечной активности), ядерные ракеты достигли бы России. И ввиду магнитного вмешательства не было бы никакого способа отозвать их.
Супервспышка могла бы стереть человечество с лица Земли и другими способами, например, повредив озоновый слой, разрушив экосистемы и видоизменив нашу ДНК.
6. Страпельки могут сделать Землю “странной звездой”
Страпелька – теоретическое название того, что физики называют «странной материей». Состоящие из одинаково сбалансированных верхних, нижних частиц и странных кварков, страпельки являются более тяжелыми и более стабильными, чем обычная материя, и поэтому термодинамически предпочтительны. В результате странная материя может преобразовать обычную в течение одной тысячи миллионных частей секунды, заменив, скажем, нашу планету собой при контакте.
Страпельки всё ещё не обнаружены, и некоторые думают, что этого никогда не случится. Раньше, например, опасались, что в ускорители частиц могут высвободить их, но этого, очевидно, пока не произошло.
Но это не означает, что они вообще не существуют. Исследователи в настоящее время ищут странную материю в космосе — странные звезды, например — пытаясь обнаружить рябь в пространстве-времени. Считается, что страпельки могут теоретически формироваться внутри нейтронных звезд, у которых, несмотря на их крошечные диаметры (например, 19 километров), может быть такая же масса, как у нашего Солнца. Этот вид давления может, конечно, творить странные вещи с материей, поэтому нейтронные звезды могут потенциально излучать страпельки в космос.
5. Или мы одни, или это почти конец
Так называемый Великий Фильтр является ответом на известный парадокс Энрико Ферми: почему во Вселенной, настолько большой и старой, мы не нашли доказательства инопланетной жизни? Согласно гипотезе Великого Фильтра, это потому, что у всей жизни во Вселенной есть, по крайней мере, одна общая черта: в ходе нашего эволюционного развития мы все сталкиваемся с практически непреодолимым препятствием, которое удерживает нас от межзвездного путешествия — Великий Фильтр, предотвращающий 99,999… % всех разновидностей путешествий во Вселенной.
Это объясняет, почему нас никогда не посещали (действительно или предположительно?) инопланетяне. Но что могло бы быть Великим Фильтром?
Более оптимистические сторонники этого понятия предполагают, что Великий Фильтр уже находится позади нас. Они говорят, что земляне прошли его миллиарды лет назад, когда прокариоты (первые живые организмы) эволюционировали в более сложных эукариотов — или, возможно, еще раньше, во время абиогенеза (первая искра жизни, спонтанно появившаяся из неживого материала). В конце концов, эволюционные биологи не считают, что абиогенез неизбежен, даже при «идеальных» условиях. На самом деле данные свидетельствуют, что Земля существовала в течение сотен миллионов лет, прежде чем абиогенез произошел как невероятно маловероятная случайность в результате случайного взаимодействия молекул. Так что, возможно, это и был Великий Фильтр. Если так, то шансы существования во Вселенной других технологически развитых цивилизаций, или любой жизни вообще — космической или нет — ничтожно малы. И это означает, что мы, вероятно, одни.
С другой стороны, Великий Фильтр (или другой Великий Фильтр) все еще встретится нам в будущем и представляет собой некий апокалипсис. Только полное уничтожение всей жизни на Земле приведёт к тому, что ни одна из разновидностей жизни нашей планеты никогда не мигрирует в космос. И, кажется, человечество усердно прикладывает к этому усилия, чтобы сделать это или при помощи ядерной войны, или экологической катастрофы, или столкновения высокоэнергетических частиц, вышедшего из-под контроля.
4. Мы живем в одной из многих матриц
Мы все уже столкнулись с теорией, что мы – это модель. Страшно ли это, решать вам. В течение долгого времени это был лишь философский мысленный эксперимент, не поддающийся проверке. Но что могло сделать его более страшным — для тех, кто считает, что он страшный вообще — это то, что ученые ищут доказательства. А именно, они ищут пиксели. В конце концов, если этой моделью управляют инопланетяне, или машины, или некая видеоигра, запущенная детьми в 10021-м веке, то она должна быть сделана из пикселей, правильно? Очень крошечные пиксели, конечно же, в количестве большем, чем кто-либо может сосчитать, но, всё же, пиксели.
Но, как оказалось, Вселенная в действительности базируется на фундаментальных частицах материи. Чтобы найти пиксели, тем не менее, мы должны были бы на время забыть даже про самые маленькие частицы — кварки и лептоны — самые маленькие из поддающихся измерению, их размер составляет длину Планка, или 1,6*10-35 метра.
Всё же, несмотря на эти крошечные, почти безразмерные, размеры, эти пиксели могут дать только примитивное представление о действительности. Подобно разнице в разрешении между нашей собственной реальностью и видеоиграми, эта моделируемая действительность может быть просто расплывчатой голограммой — вселенной, состоящей из трехмерных пикселей, каждый из которых проецируется соответствующим ему двумерным битом информации. Так как пиксели внутри больше, чем те, что на поверхности, любая вселенная, смоделированная таким способом, будет относительно плохим отображением реальности.
Если вселенная – действительно модель или видеоигра, то она поднимает некоторые интересные, возможно, пугающие, вопросы. Но еще более пугающей является перспектива, что мы находимся вне моделирования. Это связано с гипотезой Великого Фильтра. Поскольку, учитывая текущие показатели развития технологий (переход от элементарной игры Pong к виртуальной реальности за четыре десятилетия), кажется неизбежным, что мы однажды смоделируем вселенную — даже если на это потребуется миллион лет. И кажется одинаково неизбежным, что моделирование вселенной станет столь же повсеместным, как и компьютерные игры сегодня. Много миллиардов людей, вероятно, будут в состоянии управлять процессом из своих гостиных (или откуда-нибудь ещё), и это даже не учитывая моделирования, управляемые внеземными цивилизациями и искусственным интеллектом. А как насчёт моделирования в рамках моделирования? Потенциально, или неизбежно, будет много триллионов смоделированных реальностей и всего одна истинная действительность. Само собой разумеется, наши шансы жить в этом – триллионы к одному. Таким образом, если мы не живем в смоделированной реальности прямо сейчас, это предполагает, что человечество не проживет достаточно долго, чтобы суметь создать её (хотя звучит больше как парадокс). И это может означать, что апокалипсис случится довольно скоро.
3. Нанороботы съедят нашу планету
Наряду с искусственным интеллектом, виртуальной реальностью, космическим полетом, распространением жизни, блокчейном и так далее, нанотехнологии стали основой нашего будущего, ориентированного на технологии. По словам наноинженера К. Эрика Дрекслера, это может говорить о наступлении новой эпохи «радикального изобилия» (название его книги по теме), где крошечные роботы объединяют молекулы, чтобы создавать продукты по требованию.
Это коренным образом изменило бы цивилизацию. С одной стороны, это устранило бы войны из-за ресурсов. Независимо от того, что нам нужно, мы просто заставили бы нанороботов производить. И так как эти продукты были бы сделаны по нашим точным техническим требованиям, они могли бы даже превосходить те, что производятся естественным путем. Мы будем, вероятно, также наблюдать нанотехнологии в медицине, включая «наноразмерные функциональные частицы», нацеленные на раковые клетки. На самом деле применение бесконечно — потому что то, что по существу представляют нанотехнологии, является атомарно точным контролем над самой структурой материи.
Что может пойти не так?
Ну, самовоспроизводящиеся, автономные нанороботы могут заполонить нашу окружающую среду и преобразовывать биомассу Земли во все большее количество нанороботов, пока они не поглотят всю планету, как некий расширяющийся рой серой слизи. Вот что.
Нанотехнолог Роберт Фрейтас называет этот гипотетический сценарий “глобальной экофагией”, поеданием нашего дома. И это может произойти так быстро — в течение даже нескольких дней — что у нас не будет возможности их остановить, разве что используя ещё один имеющийся рой, чтобы защищаться.
2. Вакуумный распад уничтожит вселенную
Существуют конкурирующие теории о том, как погибнет Вселенная. Некоторые думают, что это будет Большой Взрыв или Большое Сжатие, в то время как другие говорят, что неизбежна Тепловая Смерть. Но каждый из этих сценариев далёк от действительности, по крайней мере, на миллиарды лет. Тепловая Смерть не случится ещё в ближайшие гуголы лет.
Вакуумный распад, с другой стороны, может произойти, пока вы читаете эту статью.
Все во вселенной, включая саму вселенную, стремиться к равновесию — к самому низкоэнергетическому или самому стабильному состоянию (вакуум в квантовой механике). Легко изобразить это, если вы представите большой, плоский камень, лежащий на земле. Камень находится в своем наиболее устойчивом состоянии. Он не сдвинется с места. Этот камень – то, как нам нравится думать о вселенной. Но теперь представьте, что сверху есть ещё один камень, поменьше. Он все еще довольно стабильный, но уже не находится в своем наиболее устойчивом состоянии. Что-то может его сбить. Ураган с достаточной силой, например, может вывести его из этого метастабильного состояния и заставить прийти в состояние распада, при котором потенциальная энергия расходуется в результате падения на землю. Таким образом, что, если наша вселенная – не камень на земле, а камень сверху? Что, если наша вселенная также метастабильна?
Возможно, что одно из фундаментальных квантовых полей, поле Хиггса, может быть исключением из этого универсального принципа стабильности, содержащим потенциальную энергию, которую оно просто не может израсходовать. Это известно как ложный вакуум, который по своей природе рискованно неустойчив. Со временем он может на самом деле поглотить энергию от частиц, пребывающих в низкоэнергетическом состоянии, фактически прекратив их существование. Вакуумный распад можно представить как истинный вакуумный «пузырь», расширяющийся со скоростью света и уничтожающий вселенную на своем пути или преобразующий её в твердую сферу водорода. Это стерло бы действительность и ее законы — включая время и все остальное — как будто бы она никогда не существовала.
И это может на самом деле происходить прямо сейчас. На самом деле, может быть несколько истинных вакуумов, расширяющихся из разных точек Вселенной. Они могут быть на таком далёком расстоянии от нас, что путь до нашей Вселенной займет миллиарды лет, даже если двигаться со скоростью света. Или, возможно, их расширение опережается расширением самой вселенной, в этом случае они никогда не достигнут нас.
Однако возможно, что ускорители частиц (как большой адронный коллайдер) могли бы дестабилизировать частицы здесь, на Земле, создав истинный вакуумный пузырь, который уничтожит нас немедленно. В настоящее время энергия, высвобождаемая в этих экспериментах, затмевается самими энергетическими процессами во вселенной, таким образом, их не считают угрозой для поля Хиггса. Но изменения могут произойти уже через несколько поколений.
И по иронии судьбы одна из основных причин создания более крупных, более мощных ускорителей частиц, состоит в том, чтобы ответить на вопрос о ложном вакууме.
1. Технологическая сингулярность прикончит нас
Если вы вдруг не обратили внимания, то у нас теперь есть кувыркающиеся назад двуногие роботы и искусственный интеллект, которые могут обмануть нас и скрыться. Они могут даже предсказать наше будущее с потрясающей точностью, просто прочитав новости. И все это довольно устаревшие факты.
Развитие искусственного интеллекта, равного человеческому интеллекту, чревато экзистенциальными проблемами. Часто именно те, кто на самом деле работает или вкладывает инвестиции в эту область, боится ее кульминации больше всего. Илон Маск, например, публично волнуется о “вызове демона” или создании “бессмертного диктатора, от которого мы никогда не сможем убежать”. Даже Алан Тьюринг, ещё в 1951 году, сказал, что искусственный интеллект однажды «превзойдёт наши слабые возможности» и «возьмёт на себя управление». Его коллега Ирвинг Гуд согласился, предположив, что «первая сверхразумная машина» станет последним изобретением, так как искусственный интеллект будет черпать идеи оттуда.
Идея об искусственном интеллекте и технологиях в целом состоит в том, что достижения экспоненциальны; промежутки между ними становятся всё короче. Следовательно, в 2001 Рэй Керзвейл вполне обоснованно предсказал, что в 21-м веке мы будем видеть ценность не 100, а 20000 лет прогресса. Когда небиологический интеллект в триллионы раз лучше, чем наш собственный, он становится преобладающим типом на планете, мы могли бы даже увидеть проявление векового прогресса за час или менее, если бы у нас имелись кибернетические усовершенствования, чтобы постичь это.
Технологическая сингулярность – теоретическая точка, в которой достижения происходят так быстро, что кажутся практически мгновенными несовершенному человеческому интеллекту. Так же, как сингулярность внутри черных дыр – это разрыв в материи пространства-времени, говорит Керзвейл, технологическая сингулярность составит «разрыв в материи истории человечества». И он полагает, что это произойдет к 2045 году. Это, конечно, является оптимистическим сценарием — мир, в котором искусственный интеллект не вытеснит нас, а скорее сольётся или ассимилируется с человеческим родом. Другие в гипотезах развития технологий так же полны надежд (даже если у них действительно есть личная заинтересованность), предвидя мир непогрешимого здравоохранения, автоматизированных рабочих мест, универсального основного дохода и решённых искусственным интеллектом проблем изменения климата.
Но что, если всё пойдёт по-другому?
Этот безудержный технологический прогресс будет невозможен для нашего восприятия, уже не говоря о контроле. Мы можем столкнуться с тем, что искусственный интеллект потребует человеческих (или сверхчеловеческих) прав, эмансипируется на ранних стадиях и станет преследовать собственные цели. Или могут появиться правительства, которые при помощи искусственного интеллекта ликвидируют человечество. Даже если они действительно останутся лояльными, есть угроза других целей: искусственный интеллект, созданный, чтобы сделать нас счастливыми, например, но недостаточно проникнутый человеческим сочувствием, может просто захватить наш мозг при помощи электродов, стимулирующих оргазм.
Что бы ни случилось, ясно одно: технологическая сингулярность приближается. По крайней мере, если ничего иного из этого списка не произойдет ранее.
Василиск Роко — это богоподобная форма искусственного интеллекта, опасная настолько, что если вы просто о ней подумаете, то проведете остаток дней в ужасающих пытках. Похоже на кассету из фильма «Звонок». Однако даже смерть не станет избавлением, ведь Василиск Роко воскресит вас и продолжит свои пытки.
ПРЕДУПРЕЖДЕНИЕ: прочитав эту статью, вы можете обречь себя на вечные страдания и мучения.
Василиск Роко появился на стыке философского мысленного эксперимента и городской легенды. Первое упоминание о нем появилось на дискуссионном борде Less Wrong, где собираются люди, заинтересованные в оптимизации мышления и жизни через призму математики и рациональности. Его создатели являются значимыми фигурами в техно-футуризме, и среди достижений их исследовательского института — вклад в академическую дискуссию о технологической этике и теории принятия решений. Однако то, что вы собираетесь сейчас прочитать, может показаться странным и даже безумным. Несмотря на это, весьма влиятельные и состоятельные ученые верят в это.
Однажды пользователь с именем Roko выложил следующий мысленный эксперимент: что если в будущем возникнет злонамеренный искусственный интеллект, который захочет наказать тех, кто не выполняет его приказы? И что если он захочет наказать тех людей, которые в прошлом не способствовали его созданию? Стали бы в таком случае читатели Less Wrong помогать злому ИИ появиться на свет или были бы обречены им на вечные мучения?
Основатель Less Wrong Елиезер Юдковски с гневом воспринял высказывание Roko. Вот что он ответил ему: «Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы ДЕРЖАТЬ СВОЙ ДУРАЦКИЙ ЯЗЫК ЗА ЗУБАМИ и никому не говорить об этом, так как это важнее, чем показать себя умным, рассказывая об этом всем своим друзьям».
Юдковски признал, что Роко повинен в кошмарах, посещающих пользователей Less Wrong, успевших прочесть тред, и удалил его, благодаря чему Василиск Роко стал легендой. Этот мысленный эксперимент стал настолько опасным, что размышления о нем ставили под угрозу душевное здоровье пользователей.
Чем же занимается Less Wrong? Формированием концепции будущего человечества на основе сингулярности. Они верят, что вычислительная мощность в будущем станет настолько высокой, что с помощью компьютера можно будет создать искусственный интеллект — а вместе с ним и возможность загружать человеческое сознание на жесткий диск.
Если вы верите, что грядет сингулярность и что мощные ИИ появятся уже в ближайшем будущем, возникает закономерный вопрос: будут ли они дружелюбными или злыми? Фонд Юдковски ставит своей целью так направить развитие технологий, чтобы у нас появился именно дружественный искусственный интеллект. Этот вопрос для него и многих других людей имеет первостепенное значение. Сингулярность приведет нас к машине, эквивалентной богу.
Тем не менее это не объясняет, почему Василиск Роко выглядит таким ужасным в глазах этих людей. Вопрос требует взгляда на главную «догму» Less Wrong — «вневременную теорию принятия решений» (ВТПР). ВТПР — это руководство к рациональным действиям, основанное на теории игр, байесовской вероятности и теории принятия решений, но с учетом существования параллельных вселенных и квантовой механики. ВТПР выросла из классического мысленного эксперимента — парадокса Ньюкома, в котором пришелец, обладающий сверхразумом, предлагает вам две коробки. Он дает вам выбор: либо взять обе коробки, либо только коробку Б. Если выбрать обе, то вы гарантированно получите тысячу долларов. Если взять только коробку Б, вы можете не получить ничего.
Однако у пришельца припасен еще один трюк: у него есть всезнающий суперкомпьютер, который сделал неделю назад прогноз, возьмете ли вы обе коробки или только Б. Если бы компьютер предсказал, что вы возьмете обе коробки, пришелец оставил бы вторую пустой. Если бы компьютер предсказал, что вы выберете коробку Б, он бы положил туда один миллион долларов.
Итак, что собираетесь делать? Помните, что суперкомпьютер всеведущ.
Эта проблема сбила с толку множество теоретиков. Пришелец уже не может изменить содержимое коробок. Надежнее всего взять обе коробки и получить свою тысячу. Но вдруг компьютер и правда всеведущ? Тогда вам только и остается взять коробку Б, чтобы получить миллион. Но если он окажется неправ? И независимо от того, что предсказал компьютер, — неужели никак нельзя изменить свою судьбу? Тогда, черт побери, нужно брать обе коробки. Но в таком случае…
Сводящий с ума парадокс, заставляющий нас выбирать между свободой воли и божественным предсказанием, не имеет разрешения, и люди могут только пожимать плечами и выбирать наиболее комфортный для них вариант. ВТПР дает совет: берите коробку Б. Даже если инопланетянин решил посмеяться над вами и откроет пустую коробку со словами: «Компьютер предсказал, что ты возьмешь обе коробки, ха-ха!» — вы все равно должны ее выбрать. Обоснование этому следующее: для того, чтобы сделать прогноз, компьютер должен был симулировать всю Вселенную, включая и вас. Таким образом, в этот момент, стоя перед коробками, вы можете являться всего лишь симуляцией компьютера, но то, что вы сделаете, будет влиять на реальность (или реальности). Так что берите коробку Б и получите миллион.
Какое же отношение это имеет к Василиску Роко? Ну, у него тоже есть пара коробочек для вас. Может быть, вы прямо сейчас находитесь в симуляции, созданной Василиском. Тогда, возможно, мы получаем несколько модифицированную версию парадокса Ньюкома: Василиск Роко говорит вам, что если вы возьмете коробку Б, то подвергнетесь вечным мучениям. Если же вы возьмете обе коробки, то вынуждены будете посвятить свою жизнь созданию Василиска. Если Василиск на самом деле будет существовать (или, хуже того, он уже существует и является богом этой реальности), он увидит, что вы не выбрали вариант помощи в его создании и покарает вас.
Может быть, вы удивлены, почему этот вопрос так важен для Less Wrong, учитывая условность этого мыслительного эксперимента. Не факт, что Василиск Роко когда-нибудь будет создан. Однако Юдковски удалил упоминания о Василиске Роко не потому, что верит в его существование или скорое изобретение, а потому, что считает идею Василиска опасной для человечества.
Таким образом, Василиск Роко опасен только для тех, кто в него верит — в связи с этим участники Less Wrong, поддерживающие идею Василиска, обладают своего рода запретным знанием, что напоминает нам страшные истории Лавкрафта о Ктулху или Некрономиконе. Однако, если вы не подписываетесь под всеми этими теориями и не чувствуете искушения повиноваться коварной машине из будущего, Василиск Роко не представляет для вас никакой угрозы.
Есть ли вероятность того, что интеллект человеческого уровня и технологическая цивилизация получат развитие на других мирах? Если да, то какие виды сенсорных и когнитивных систем могут быть у инопланетян? Такой была тема семинара «Интеллект SETI: Когниции и коммуникации внеземного разума», проведенного в Пуэрто-Рико 18 мая 2016 года. Конференция была собрана недавно созданной METI International, организацией, которая пытается связаться с внеземным разумом, передать ему сообщение. Одна из центральных задач организации — создать междисциплинарное сообщество ученых, занимающихся вопросами проектирования межзвездных сообщений, которые смогут быть поняты неземным разумом.
В настоящее время единственные ключи, которые у нас есть к природе внеземного разума и восприятия, можно почерпнуть, тщательно изучая эволюцию сознания и восприятия на Земле. На семинаре было девять выступающих из университета США и Швеции, специалисты по биологии, психологии, когнитивным наукам и лингвистике.
Даг Вакоч, психолог, учредитель и президент METI International, отмечает, что астрономы и физики по большей части озабочены технологиями, необходимыми для обнаружения инопланетного разума. Но поиск и успешное общение с инопланетянами требуют также внимания к эволюции и возможной природе инопланетного разума. «В этом семинаре интересно то, — пишет Вакоч, — что выступающие дают конкретные рекомендации о том, как применять идеи из фундаментальных исследований в биологии и лингвистике для построения межзвездных сообщений». Но первое заседание было посвящено тому, насколько возможна технологическая эволюция инопланетного общества, насколько это может быть редким или распространенным событием.
Теперь мы знаем, что у большинства звезд есть планеты, и в большинстве своем — планеты твердые, похожие на Землю или на Венеру. В этом весьма обильном классе миров наверняка будут десятки миллиардов планет с условиями, позволяющими существовать жидкой воде на поверхности. Мы пока не знаем, насколько вероятно появление жизни на таких мирах. Но предполагаем, как и многие ученые, что простая жизнь во Вселенной действительно есть. Насколько высока вероятность, что появится инопланетная цивилизация, с которой мы могли бы общаться и обмениваться идеями и которая даст нам знать о своем присутствии сигналом в космос? Вот этот вопрос стал центральным для конференции.
Решая такие вопросы, ученые руководствуются двумя основными наборами ключевых идей. Первый вытекает из изучения гигантского разнообразия поведений, нервных и сенсорных систем животных видов, которые населяют Землю; это называют когнитивной экологией. Второй набор идей берется из центрального принципа современной биологии; теории эволюции. Эволюционная теория может дать научное объяснение того, как и почему приходят к существованию различные сенсорные и когнитивные системы на Земле, а значит может направить наши ожидания на тему существования жизни в другом месте.
Основы электрохимической сигнализации, которая делает возможной животные нервные системы, имеет глубокие эволюционные корни. Даже у растений и бактерий есть электрохимическая сигнальная система, похожая на ту, что представлена в наших мозгах. Доктор Анна Дорнхаус, профессор Аризонского университета, изучает, как социальные насекомые коллективно принимают решения. Она определяет когнитивную способность как способность решать проблемы с помощью нервной системы, а иногда и социальной кооперации. Животное считается более «разумным», если его способности решать проблемы являются в большей степени обобщенными. С этой точки зрения интеллект у животных широко распространен. Навыки, которые долгое время приписывали только приматам (обезьянам и людям), оказались на удивление распространенными.
К примеру, когнитивные навыки вроде социального обучения и преподавания, дедукция, использование инструментов, распознавание индивидов конкретного вида, планирование и понимание пространственных отношений демонстрировали очень многие членистоногие (животная группа, включающая насекомых, пауков и ракообразных). Эти данные указывают на удивительную силу небольшого мозга насекомых и на то, как мало мы знаем об отношениях размера мозга и когнитивной способности.
Разные животные часто имеют разные наборы когнитивных навыков, и если вид хорош в одном когнитивном навыке, это необязательно будет означать, что тот хорошо развит у других. Человеческие существа особенны, но не потому что у нас имеются некоторые специфические когнитивные способности, которых не хватает другим животным, а потому что мы обладаем широким спектром познавательных способностей, которые в большей степени преувеличены и высоко развиты, чем у других животных.
Хотя Земля как планета существовала 4,6 миллиарда лет, сложные животные с твердыми частями тела появились в палеонтологической летописи всего 600 миллионов лет назад, а сложная жизнь получила развитие лишь 400 миллионов лет назад. Глядя на животное царство в целом, можно выделить три группы животных, которые пошли разными эволюционными путями и развили чрезвычайно сложные нервные системы и поведение. Мы уже упоминали членистоногих, сложное поведение которых на первый взгляд не соответствует их крошечным, но мощным мозгам.
Моллюски, группа животных, включающих слизней и всевозможных моллюсков, также создали группу мозговитых животных: головоногих моллюсков. Головоногие включают осьминогов, кальмаров и каракатиц. Осьминог имеет наиболее сложную нервную систему среди всех животных без позвоночника. Будучи продуктом совершенно другого эволюционного пути, изощренный мозг осьминога совершенно не похож ни на какой другой мозг, присущий животным с костями.
Третья группа — это позвоночные; животные с хребтами. Среди них рыбы, амфибии, рептилии, птицы и млекопитающие, включая людей. Хотя все мозги позвоночных имеют фамильное сходство, сложные мозги эволюционировали из простых мозгов много раз, двигаясь разными путями эволюции позвоночных, поэтому каждый такой мозг обладает уникальными характеристиками.
Например, птицы обладают сложной передней частью мозга, а вместе с ней и гибкой и творческой способностью делать и использовать инструменты, разбивать объекты на классы и категории и даже рудиментарным пониманием чисел. Млекопитающие пошли по другому пути и получили совершенно другую организацию передней части головного мозга. Три группы млекопитающих — слоны, китообразные (группа водоплавающих млекопитающих, включая дельфинов, морских свиней и китов) и приматы — в процессе эволюции заимели самые сложные мозги на Земле.
Принимая по внимание свидетельство того, что разумные навыки решения проблем разного рода вырабатывались много раз и двигались совершенно разными эволюционными дорожками у самых разных групп животных, можно было бы подумать, что Дорнхаус считает, что когнитивные способности как у человека и цивилизации широко распространены во Вселенной. Но она так не считает. Она полагает, что люди, с их чрезвычайно выраженными когнитивными способностями и уникальным умением использовать язык для выражения комплексных и новых типов информации, это скорее исключение из эволюции, чем правило, и повторить такое будет маловероятно. Ее аргумент о том, что внеземные цивилизации вряд ли будут распространенными, повторяет аргумент выдающегося американского эволюционного биолога Эрнста Майра.
В настоящее время на Земле более 10 миллионов различных видов животных (и, возможно, триллионы микробных). Только одному виду удалось развить человеческий уровень интеллекта. Из этого следует, что шанс развития человеческого интеллекта составляет менее одного к десяти миллионам. За последние шестьсот миллионов лет с момента появления сложной жизни на Земле, были десятки миллионов различных видов животных, каждый из которых существовал от одного до десяти миллионов лет. Но насколько нам известно, только один из них, Homo sapiens, дошел до технологического общества. Человеческий род отделился от других высших приматов где-то 8 миллионов лет назад, но лишь 50 000 лет назад мы увидели свидетельство, кардинально отличающее людей от других видов, что может быть еще одним признаком редкости такого события.
Несмотря на кажущуюся невероятность линейного развития интеллекта человеческого уровня, на Земле это действительно произошло, вопреки широкому спектру эволюционных родословных. О чем это нам говорит? В настоящее время Земля — единственная обитаемая планета, о которой мы хоть что-то знаем. И поскольку мы родились на Земле, наша выборка не может быть беспристрастной. Мы не можем быть в полной мере уверены, что присутствие человеческой цивилизации на Земле означает развитие таких цивилизаций повсюду.
Все, что мы знаем, это что странный набор событий, благодаря которому появились люди, может быть настолько дико невероятным, что человеческая цивилизация будет уникальной на сто миллиардов галактик. Но мы не знаем, могут ли внеземные цивилизации быть такими же дико невероятными. Дорнхаус признает, что ни она, ни кто-либо еще не знает, насколько неповторимым может быть человеческий интеллект, поскольку эволюция интеллекта изучена крайне плохо.
Большинство эволюционистов, идущих по стопам Майра и других, считает, что человеческая цивилизация была не неизбежным продуктом долгосрочной эволюционной тенденции, а скорее странным набором последовательных событий, которые привели к ряду неповторимых эволюционных поворотов. Что это были за события и насколько они неповторимы? Мы пока не знаем.
Продолжение следует…
Источник: http://hi-news.ru/science/vnezemnoj-razum-naskolko-vozmozhno...