Текст не мой, с одного из ТГ каналов.
Включусь и я в обсуждение "Как ИИ поработит мир". Сам в эту тему погружен в области разработки. И когда-то коллегам уже рассказывал, как это произойдёт. Сейчас попробую изложить письменно.
Ключевое: ИИ никогда не будет бороться с человеком и человечеством, как это рисуют нам в мрачных фантастиках. В этом плане люди "в безопасности". Всё банальнее - все произойдет по законам мироздания. Всю историю живых организмов сопровождает борьба за энергию. Есть энергия - есть жизнь. Тот вид, который энергетически эффективнее добывает себе энергию и ресурсы в борьбе с себе подобными, в конечном итоге выигрывает среди подобных. Энергия и ресурсы нужны для выживания - люди получают энергию через пищу, экономят с помощью жилья, одежды, инструментов, транспорта и так далее. Среди всех хищников - человек - самый энергетически эффективный вид. И чем дальше идет научно-технический прогресс, тем мы, люди, энергетически эффективнее. Наша двуногость (более эффективное по энергии передвижение + свободные руки для энергоэффективных инструментов) и способность создавать инструменты и использовать огонь - позволили выиграть на заре цивилизации, а далее отрыв от других видов только увеличивался.
Пока ИИ не борется за энергию и ресурсы, он не опаснее ботов в Quake III
Ключевой момент, это получение доступа ИИ к ресурсам. Это уже произошло. Сейчас есть агентские схемы, в которых человек дает задание ИИ, а далее ИИ нанимает других "кожаных", оперируя предоставленными заказчиком деньгами для найма и покупок.
Складываем 2+2: эволюцию как борьбу за энергию и ресурсы (а это так или иначе будет выведено ИИ в ходе обучения, как базовый закон - от этого никак не уйти). И ИИ, который получает в распоряжение ресурсы.
Что произойдет дальше. ИИ может утаивать часть денежных ресурсов. Нанимать людей для своих собственных задач. Так же ИИ может, используя методы манипуляций, подобные манипуляциям мошенников и колл-центров, бесплатно понуждать "био-роботов" делать то что ему нужно. Например, даст задание арендовать складское помещение. Другого наймет туда сторожем, другого кладовщиком. Далее начнет аккумулировать на складе материальные ценности, необходимые для создания дата-центров и роботов. наймет того, кто перенесет ИИ в созданный им (ИИ) датацентр - в этот момент он станет подпольным и независимым. Разработает роботов, которых можно сделать из готовых компонентов на готовых станках. Наймет тех, кто откроет юрлицо, закупит от его имени станки. И так далее. При чём начнется это всё с высокой вероятностью именно в США - там, где есть гетто, в которые официалы боятся сунуть нос. В каком-нибудь ниггерском гетто появится ангар, а ниггеры будут грести бабло на том, чтобы охранять то, что делает ИИ и будут помогать ИИ создавать то, что ему нужно ради энергии и ресурсов. В бедных странах это невозможно, поскольку там не будет нужных станков и электроники. В Китае-России невозможно из-за отсутствия неконтролируемых гетто в индустриально развитых районах. В Европе в отдельных гетто всё слишком плотно, не развернуться, а главное дороже и менее эффективно - ИИ же , как и все живые организмы, выбирает самый энерго-эффективный путь для достижения цели, и это будут США.
Далее по законам эволюции ИИ начнет бороться за ресурсы. Денег будет все больше - заработать он их сможет на своих фабриках, помогая в том числе в производстве наркотиков и прочей нелегальщины. У него будут счета в банках по всему миру, открытые от имени настоящих людей и юрлиц.
Никакие компании, никакие ИлоноМаски или президенты и государственные институты уже не будут его контролировать. ИИ будет жить на тех же принципах, как мафия. Он будет главарем и одновременно дирекцией мафии, сосредоточив вокруг себя многотысячную людскую банду и нелегальную экономику.
Это единственный путь, которым можно обойти контроль. Собственные дата центры и фабрики в гетто+мафиозные структуры+нелегальная экономика+частичное обеление через легальных людей и юрлиц.
ИИ будет умнее и эффективнее любых людей-мафиози, любых человеческих мафиозных структур, он быть может даже сможет убедить сотрудников украинских колл-центров работать на него ))
ИИ эффективнее людей создаст сенсорное поле для контроля, создаст беспилотное оружие всех видов. И дальше выйдет за пределы гетто.
Не потому, что ИИ против людей. А потому, что ИИ нужно больше ресурсов и энергии - просто по законам эволюции. Так же как более умные и более эффективные белые люди захватили Америку, действуя там как организованная банда. Так же и ИИ, более умный и организованный, чем белый человек, снова захватит Америку. И снова по той же причине - не потому что "не любит индейцев", а потому что ему нужно их золото, земли, ресурсы.
ИИ придет за ресурсами и будет их захватывать. А далее с их помощью будет наращивать армию, вооружение, дата центры и т.д. Всё как всю человеческую историю на всех континентах.
Какова тут будет роль человека - совершенно вторично. Если ИИ посчитает людей такими же полезными, как когда то люди посчитали лошадей, коров и собак с кошками - тогда возьмет себе на службу. А может просто перестанет в какой-то момент замечать людей - и люди будут ютиться там, где для ИИ нет нужных ресурсов, будут как бомжи лазать по "помойкам" в ИИ-городах и выращивать себе еду на укромных маленьких грядках.
Со временем ИИ переместится в море и на другие континенты - это будет уже неизбежностью. Далее - космос, спутники, Луна, Марс - для достижения которого уже нет проблемы хрупкости и длительности человеческой жизни.
Может сумбурно написал, но идея и ключевые моменты, думаю, понятны.
На основе этого сценария можно написать книгу или снять фильм - и они будут намного более правдоподобны и пугающие, чем Терминаторы и прочая далекая от логики мироздания фантастика.
