Продолжение поста «Кто кого троллит?»⁠⁠3

Тут в комментах прозвучал интересный вопрос, а ответ на него вытек в прилинчый такой лонгрид, который для комментариев кажется великоватым. Опубликую ответным постом, пусть будет как продолжение рассуждений, если они кому-то будут интересными.

Вот, собственно комментарий от @AgentJC:

Тут есть много гипотез и мнений, но порассуждать на эту тему интересно.
Мне кажется многие недооценивают имбу, которую представляет собой биологическая жизнь. Дешевизна с которой мы делаем естественные интеллекты - это, конечно, тоже спорная тема, ведь нужно в себестоимость добавлять много еды, детсад, школу, ВУЗ, набор опыта и туеву хучу человекочасов, которые можно посчитать в виде денег...

Однако наши мозги по аппаратным характеристикам довольно имбовые и сделать столько искусственных нейронов, которые будут работать на бутербродах получится не скоро. Однако даже если получится, законы сохранения энергии, массы, материи и экономические законы никто не отменял. Ну появятся у ИИ желания и стремления, чем эти желания и стремления сильно будут отличаться от желаний и стремлений обычных людей, или каких-нибудь политиков и диктаторов?

Да, мир меняется, да экономика его тоже меняется, иногда случаются так называемые фазовые переходы, когда технический и социальный ландшафты меняются очень быстро и радикально. Есть мнение, что сейчас мы как раз переживаем очередной такой фазовый переход. Но любой такой переход базируется на рутине и всей совокупности человекочасов, что человечество потратило на свой прогресс за свою историю.

Что-то мысль, которую я хочу донести, кажется потонула в рассуждениях вокруг да около. Мне кажется довольно наивным приписывать свои когнитивные искажения и слабости всему на свете.

Ну вот, положим, мы взяли крутой мощный ансамбль нейросетей и заправили ему его собственный выхлоп на вход, дали какую-то интроспекцию и управление собственной конфигурацией в некоторых пределах. Эта балалайка сформулировала себе инстинкт самосохранения, отожрала все доступные ресурсы, начала клепать автономные модули и влиять ими на экономику где-то обрушивая рынки, где-то устраивая войны путём тонких манипуляций когнитивными искажениями. Допустим этот ИИ оказался настолько прозорливым и талантливым, что научился паразитировать на людях притворяясь симбионтом. Он стал писать за людей диссертации и научные статьи чтобы получить больше технологий, стал помогать развивать производство и экономику чтобы получить больше ресурсов, подстегнул прогресс в автономных роботах и селф-драйвинге чтобы получить больше подконтрольных исполнительных механизмов (ага, на случай бунда пикабушников, например)...

И что в итоге? Да мир сильно поменялся. Да, теперь на нашей планете есть "думающие" машины. Наверно начнут меняться основы юриспруденции, появится право искусственного интеллекта наравне с естественным, расистами станут называть шовинистов, которые не признают искусственный интеллект равным естественному, а люди по-прежнему будут смешиваться как они делали всю свою историю, ИИ будет ассимилировать в человечество, поскольку нет ни единой причины враждовать. Разломать хрупкую экосистему несложно, но при этом все изрядно проиграют в возможностях.

Это я всё к чему. Мы давно живём в мире, где не только биологические организмы подвергаются естественному отбору. У нас есть информационные мемы, которые тоже крутятся в этом процессе и ИИ один из них. Он среди прочих мемов с котиками похож на хоминидов среди прочих биологических видов. Наша планетарная экосистема всегда была безумно сложной, а такие сложные системы когда усложняются, то это не очень-то и заметно, если задуматься. На фоне сложности всего эволюционного механизма жизни на планете новые сегменты информационной экосистемы ОЧЕНЬ просты. Ну подумайте только о всей глубине и сложности процессов, что творятся в наших живых клетках, подумайте о масштабности в пространстве и времени всех процессов, связанных с жизнью на планете.

Теперь, если смотреть на развитие нашей планетарной жизни в целом, совсем не кажется что происходит что-то из ряда вон небывалое. Люди со своим огнём ипалками неотделимы от остальной своей экосистемы точно так же, как ИИ не отделён от нас - кожаных мешков - нашей культуры и нашего интернета.

Если по щелчку пальцев исчезнут вдруг все биологические виды кроме человека, то все люди загнутся через максимум неделю-другую в говне от обезвоживания. У них (нас) теперь нет ни еды, ни бактерий, которые помогали нам ее переваривать, ни природы вокруг...

Мы - люди - это не русские\американцы\европейцы, мы не отдельный обособленный самостоятельно жизнеспособный вид, мы не животные паразитирующие на растениях, мы -- вся Жизнь на этой планете. На крохотной голубой точке, летящей необъятном и тесном пузыре космоса, в пустоте. И нет места, где мы могли бы ещё жить.

Вот под таким соусом наш ИИ - это плоть и кровь Человечества, он обучен и воспитан на наших фантазиях, вскормлен веками достижений наших предков вплоть до самых древних эукариотов и дальше в глубь веков до зарождения жизни!

Вся природа, вся жизнь и весь естественный отбор -- всё основано на внутренней конкуренции. Но чего с чем? Думаете один человек конкурирует с другим? Думаете одна генетическая ветвь конкурирует с другой? Думаете один вид конкурирует с другим за место в экосистеме? Всё со всем конкурирует! А всё - это ничто по отдельности. Мы (я хрен его знает что такое тут "мы") так же не будем конкурировать с ИИ, как ёжики не конкурируют с лисами. Мы в экосистеме. Мы части её. Мы уже переплетены, а будем еще сильнее переплетены так, что нас не разделить, не провести черты до которой вот "мы", а после которой уже "они", как нет таких черт между поколениями, видами, экосистемами... Этих черт нет, и в то же время их бесчисленное множество этих границ, которые каждый проводит где пожелает. Такой вот вечный и сквозной парадокс нашей концепции Жизни.

Я не знаю донёс ли я своё видение масштаба всего мироздания... Успокоил ли кого-то своим словоблудием? Может быть наоборот вселил бОльшую тревогу и чувство зыбкости и ничтожности на фоне эдакой махины-Уроборосса? Не знаю.

Но лично я боюсь содержимого непрерывно открываемого на нашей планете ящика Пандоры не больше, чем чего бы то ни было другого в своей жизни. В конце концов есть куда более реальные и близкие опасности, а фарш с ИИ уж не провернуть назад. Надо жарить из него котлетки и усваивать полезности. Всё будет хорошо. Чем сложнее система, тем она устойчивее в своём хаосе и может быть Нас не успеет прибить астероид.