Ymichkin

Последний раз изменение такого масштаба было, максимум, около 4 миллиардов лет назад, во времена перехода мертвой материи на следующий уровень организации — к живой. Минимум, несколько сотен тысяч лет назад, когда совершился переход от живой материи к разумной.

Человек относительно превосходящей его сущности на первых порах будет тем же самым, чем обезьяна для человека. Так как развитие ИИ не остановится и не замедлится, а напротив, будет только ускоряться, уровень человека будет понижаться. Однажды разрыв между ИИ и человеком будет таким же, как между человеком и мертвой материей. Как человек преобразует под свои цели камни, так чуждый разум будет преобразовывать под свои алгоритмы человека.  

Самообман

У традиционного человека нет шанса противостоять разворачивающемуся процессу. Но признать это сложно. Здесь корни позиции, когда, с одной стороны, человек признает верность логической цепочки «Прогресс — развитие ИИ — сингулярность». С другой стороны, надеется, что все же как-нибудь он сможет контролировать автономно развивающийся ИИ.

Представителем такой позиции является, например, Бостром. Он соглашается с неизбежным наступлением сингулярности. Но тут же говорит, что человек запрограммирует ИИ на соблюдение этических норм, т.е. поставит автономный ИИ под контрль: «Если мы корректно зададим начальные параметры, ИИ будет действовать в наших интересах, даже развиваясь автономно».

Из этого же лагеря Хассабис: «ИИ достигнет сингулярности, но глобальное регулирование и этические стандарты позволят сохранить надзор».

Но проблема в том, что автономный ИИ перерастёт любые «начальные параметры». Чалмерс на эту тему пишет: «Сверхразумный ИИ перепишет свой исходный код, сделав контроль иллюзорным». Юдковский о контроле: «Любая система, превосходящая человеческий интеллект, сможет манипулировать нами задолго до того, как мы осознаем угрозу. Контроль — это миф». Ему вторит Рассел: «Мы не можем предсказать цели сверхразумного ИИ. Даже если он будет „дружественным“, его методы достижения целей могут быть катастрофичны».

Техническая сингулярность и контроль — взаимоисключающие понятия. Кто признает, что она неизбежна, но выражает надежду сохранить контроль, тот или недооценивает скорость и масштаб изменений, или закрывает на них глаза и сам себя обманывает, подменяя понятия (называет сингулярностью этап, когда ИИ зависит от человека, т.е. когда он еще не стал автономным).

Самостоп

Другое направление контроля над ИИ — слиться с ним. Оно делится на западный и российский вариант. Наиболее заметный представитель западного направления Курцвейл. Его позиция во фразе: «Мы не будем контролировать ИИ — мы станем им. Это симбиоз, а не конфликт».

По мнению Курцвейла, ИИ станет автономным к 2045 году. К этому времени нужно успеть слиться с ИИ. Каким же образом? Через нейроинтерфейсы. На чем основана надежда, что человек успеет за оставшееся время по такой технологии слиться? Ни на чем. Для слияния в этом направлении нужны технологии другого уровня. За оставшееся время их невозможно получить.

Курцвейл обходит молчанием эту тему. Равно как не заостряет внимания на том, что слившийся с ИИ человек больше не человек. Как неправильно называть обезьяну, превратившуюся в человека, поумневшей обезьяной, так и человека, слившегося с вычислительными мощностями ИИ, неправильно называть поумневшим человеком. Это существо с новой ступени эволюции.

Авторитетам свойственно больше заботиться о сохранении своего авторитета, чем об истине. Так как это зависит от соблюдения границы, рассуждения авторитеты всегда в рамках. В средние века линию дозволенного чертила религия. Сегодня ее прорисовал гуманизм.

В большинстве случаев оправдано не выходить в своих мыслях и словах за границу дозволенного. Если абсолютной истины нет, всякая истина относительна, разрушать ради этого источник земных благ, свой авторитет, попросту неразумно. Потому кардинально новые истины провозглашают в основном люди без авторитета. Им нечего терять, приобрести же они могут.

Но бывают ситуации, когда ориентир на сохранение авторитета является самоубийственным. Пока вы на корабле, мешок с золотом перевешивает все другие истины. Но если корабль затонул, и до берега можно добраться только вплавь, а для этого нужно отпустить мешок, кто не отпустит, тот не доплывет. Что во вчерашней ситуации было преимуществом, в новой становится отягощением.

Западное мышление также связано этикой гуманизма, как в религиозные времена было связано церковной этикой. Ни у кого из западных авторитетов, ученых и политиков, нельзя найти ни слова, ни намека, что решение лежит за очерченными рамками. Стоит кому что-то такое сказать, как это превратит его в нерукопожатную фигуру. От него будут шарахаться, как от еретика в средние века.

Экстремалы

Решить экстраординарную задачу в сжатые сроки можно только экстраординарными методами. Эту мысль транслируют движение на базе книги анонимного автора «МЫсинергиТЫ», возникшее в России. Их стратегию отражает фраза: «Не наукой заниматься, а создавать условия для науки». Ключевой элемент — создание государства-лаборатории, где наука свободна от догм биоэтики в той же мере, в какой она сейчас свободна от религиозных догм.

Неизвестно, стоит ли за этим движением авторитет или нет. В любом случае анонимность как ход хороша как для первого варианта (авторитет), так и для второго (ноунейм).

Российский вариант подвергается жесткой критике со стороны прогрессивной общественности за призыв ориентироваться не на ценности уходящего мира, порожденные гуманизмом и биоэтикой, а на решение проблемы. Общественность считает, что решение нужно искать в рамках гуманизма.

Общество

Никаких иных движений мысли на эту тему найти не удалось. Информационное пространство на тему ИИ наполнено двумя видам информации. Основной объем — это как заработать на ИИ, как с его помощью развлечься, переложить на него какие-то текущие задачи и прочее.

Второй информационный поток состоит из противоречивых утверждений типа: прогресс не остановить, но он будет развиваться так, что сингулярность никогда не наступит. Или еще более противоречивыми: сингулярность неизбежна, но человек сможет ее взять под контроль.

Вредители

Источниками самой вредоносной информации являются многочисленные блогеры, погруженные в тему на уровне домохозяек. Они транслируют на свои огромные аудитории успокоительное: все под контролем, поводов для волнения нет, ИИ не угрожает человеку, а напротив, несет ему блага.

Опасность в том, что они наполовину правы. ИИ действительно несет человеку огромные блага. В ближайшем будущем принесет еще больше. Но что дальше?

Абсолютное большинство популяризаторов не заходят дальше бытового масштаба. В итоге они похожи на людей, которые говорят, что героин несет огромное удовольствие. Но что дальше — не говорят. Акцента только на удовольствии в моменте. Потом героин предъявит счет.

Заключение

Если прогресс не остановить, наступление сингулярности не предотвратить. Можно обманывать самих себя, можно извлекать из ситуации сиюминутную пользу, на ситуацию это никак не влияет. Человечество на всех порах мчится на поезде в пропасть. Никакой возможности остановить поезд нет. Единственная возможность — перейти из плоскости в объем, научиться летать.

Человек в любом случае исчезнет. Только в одном случае исчезнет, как исчезает ребенок, становясь взрослым. В другом случае исчезнет как корова, превратившаяся в тушенку.

У отдельных единиц стремление к новому сильнее страха высоты. Они подходят к самому краю и заглядывают вниз. Некоторые идут дальше, и высовываются так далеко, чтобы заглянуть под выступ. Чем сильнее их любопытство, тем дальше высовываются, вглядываясь в бездну.

При первой попытке охватить ситуацию возникает желание отвернуться от раскрывающейся картины, забыть все это и жить как раньше жил, как все живут. Это можно, если не понял ситуации. Если понял, нельзя вернуть утраченное невежество. По какой причине пассажир, узнавший, что судно тонет, не сможет забыть этой информации и заняться своими делами, словно нет никакой проблемы, по такой же причине невозможно забыть то, что в мир пришел ИИ и возврата нет.

Будущее бросило нам вызов. Если не ответить на него, со стопроцентной гарантией возникнет система, где свобода будет сжиматься, пока не превратит человека в бездушный винтик. Принять такой сценарий можно, если никогда не пытался подойти к краю, если мысли не выходили за линию бытового горизонта. Если же однажды вышел, принятие пассивной роли невозможно.

Поиск выхода начинаю с утверждения: жизнь существует, пока соответствует окружающему миру. Не соответствующая жизнь погибает. Пока динозавры соответствовали внешней среде, они жили. Как только тропики сменил ледниковый период, динозавры погибли, потому что не смогли приспособиться к новым условиям. Осталась только жизнь, перестроившаяся под новый мир.

Мы в положении рыб, живущих в высыхающем море. Как рыбы не могут остановить процесс высыхания или создать себе второе море, так люди не могут остановить развитие ИИ или создать себе второй мир, где второй интеллект никогда не появится, и человек сохранит центральное место.

Время традиционного человека подходит к концу. Об этом давно говорят многие мыслители. Например, Фуко писал, что «Человек исчезнет, как исчезает лицо, начертанное на прибрежном песке». Ницше говорил, что человек — это канат, натянутый между обезьяной и сверхчеловеком.

Единственный шанс рыб выжить в высыхающем море — отрастить себе ноги. Единственный шанс человека выжить в мире, где появился Искусственный Интеллект — «отрастить» интеллект, не только не уступающий, а превосходящий ИИ.

Естественным путем это невозможно. Решение в ориентире на формулу: «Х+1 больше Х» (икс — это ИИ; единица — человек). Человек должен перейти на следующую ступень эволюции через усиление своего интеллекта путем искусственного объединение своего мозга с ИИ.

Отрывок из книги (Искусственный интеллект. Здравствуй папа)

Одно дело, когда известно, что никто не понимает ситуации и не знает, как выходить из ситуации. Тогда в обществе висит атмосфера поиска выхода. Другое дело, когда есть иллюзия, что кто-то понимает тему, знает решение и переживать не о чем, тогда как на самом деле никто ничего не понимает, решения нет, и его никто не ищет. В первом варианте, когда известно, что ничего не известно, есть шанс, что кто-то предложит что-нибудь толковое. Во втором варианте шанса нет, так как его никто не ищет, потому что никто не осознает наличие проблемы.

Кто позиционирует себя знающим, тот или глупец, раздающий направо и налево, как говорил булгаковский профессор Преображенский, «советы космического масштаба и космической же глупости». Или второй вариант: шоумен, работающий на почтенную публику.

Минимальный показатель адекватности — человек понимает, что не понимает. Это точка отсчета. Любая иная позиция говорит, что человек считает старые мерила приемлемыми для оценки принципиально нового, а значит, не относится к моей целевой аудитории.

Из книги Искусственный интеллект. Здравствуй папа.

Отрывок из книги Искусственный интеллект. Здравствуй папа.

Точку в этой дилемме поставила битва при Павии. Великолепные французские рыцари были попросту расстреляны крестьянами, из которых вчера сделали солдат и вооружили мушкетами. Французский король попал в том сражении в плен и сказал: потеряно все, кроме чести.

Выбор между честью с мечом и бесчестьем с ружьем превратился в выбор между жизнью и смертью. Победила жизнь. Рыцари скорректировали мораль под новые реалии. Они сняли доспехи, отложили мечи в сторону, надели мундиры и взяли в руки ружья. Война вышла на новый виток.

Дольше всех верность мечу и традиции хранили японские рыцари — самураи. Чтобы никакие новшества революционной Европы не сбили их с пути, они приняли закон, по которому всякий иностранный корабль, причаливший к берегам Японии, подлежал конфискации, а экипаж смерти.

С XVII по XIX век страна застыла в средневековье. В XIX веке в дело вмешалась политика. Когда Америке стало очевидно, что вопрос времени, когда Россия подомнет под себя Японию, а это нарушит баланс сил, она решила заставить средневековую Японию стать индустриальной.

С этой целью в 1854 году к берегам страны восходящего Солнца подплыли военные корабли и дали залп. Далее под угрозой обстрела столицы принудили власти снять самоизоляцию. Так как меч беспомощен против пушек, Япония была вынуждена подчиниться Америке и открыться.

Закон жизни: эффективное вытесняет неэффективное. Огнестрельное оружие эффективнее холодного по всем параметрам, и потому у армии не было шанса отказаться от ружья в пользу меча. Кто отказывался подчиниться ходу истории, того подчинял тот, кто не отказывался.

ИИ сильнее человека по всем физическим и интеллектуальным параметрам. Он выдерживает нагрузки, невозможные для живого организма. Он охватывает объем информации, недоступный человеку. Он анализирует ситуацию и принимает решения с немыслимой скоростью.

При прочих равных самолет, пилотируемый ИИ, со 100%-й гарантией победит самолет, где за штурвалом человек. Если одному оружию, например, дрону, нужно разрешение оператора на убийство, а другой принимает решение по ситуации самостоятельно, второй эффективнее первого.

Как ружье вытеснило меч, так ИИ вытеснит человека не только из войны, но из всех сфер, от политики и экономики до творчества, бизнеса и бытовой сферы. Обращаю внимание, никто никого не будет ни к чему принуждать. Каждый волен отказаться от услуг ИИ, и на свой ум полагаться.

Если мастер по шахматам играет с новичком, который вчера выучил правила игры, но ИИ ему ходы подсказывает, а мастер на себя полагается, выиграет новичок. Если один политик, полководец или бизнесмен сам думает, а его оппонент на ИИ полагается, выиграет тот, за кого ИИ думает.

Этот факт превращает человека в исполнителя решений ИИ. Насколько незаметно, настолько и неизбежно власть в перспективе перейдет от человека к ИИ. Гомо сапиенс с каждым годом будет слабее, а ИИ сильнее. Изменить тенденцию невозможно. Сильный в итоге подчинит слабого.

Отрывок из книги (Искусственный интеллект. Здравствуй папа)

Как идущий по лесу лось не замечает, что рвет рогами паутину, сплести которую пауку стоило больших трудов, так ИИ не заметит, как уничтожит созданную человеком цивилизацию. И как у паука нет шанса защитить от лося свое творение, так его нет и у человека. Ящик Пандоры открыт.

Эту мысль эмоционально сложно принять, так как мы выросли в убеждении, что человек — венец творения, ничего сильнее его нет и быть не может. Потому склонны отворачиваться от фактов, колеблющих и разрушающих нашу убежденность. Но это никак не влияет на факты.

Отрывок из Искусственный интеллект. Здравствуй папа.