Ответ на пост «Технологическая сингулярность уже здесь?»⁠⁠1

Дед, кончай, всё нормально! Какая сингулярность? Ну. в смысле, понятно какая, но без паники, не будет никакого горизонта.

Давай, дед, по порядку.

Через два-три года определить, реальная информация или синтезированная станет невозможно. Лишь то, что можно увидеть глазами вне цифры и услышать ушами - можно считать еще несколько десятилетий вперед реальным.

И что поменялось? Когда-то кто-то рыдал, что с приходом фотографии художники-портретисты больше не нужны, приход фотошопов нам сулил подделки фотографий и доказательств, потом "сломалось" видео с приходом видеоредакторов. Всё это было относительно сложно подделывать (ага, типа как сложно... это ж фотошоп надо освоить, корпеть над пикселями), а потом, пыщь, пришли нейросети, и школота стала рисовать ею бомжей в гостиных, пугать родителей кадрами как они с этими бомжами обнимаются...

По сути ничего нового. Никогда, как говорится, такого не было, и вот опять!

А помните эти крокодиловы слёзы когда рыцари вдруг обнаружили, что каждый безродный плебей может где-то накопать арбалет и на вылет прошить дорогущие доспехи благородного лорда? Ну да, "помните", ага.

Не суть. Но оно ж, вроде, ничего нового, и всё иначе. Каждый, сука, день всё меняется с ног на голову, но каждые сто лет всё одно и то же. Это вопрос параллелей и аналогий, которые мы проводим у себя в голове. Хотим убедить себя в чем-то -- вуаля -- как два пальца обтереть. Каждый человек за свою жизнь лучше всего научается обманывать самого себя. Потешить самолюбие, попеть дифирамбы своей прозорливости и уму. Ерунда дело взять какое-то из убеждений, и как из пулемёта искать ему подтверждения. Есть такое когнитивное искажение, которое даже любезно скрывает под пологом неосознанности любые нестыковочки.

Так, дед, дай-ка одну таблеточку. Че-то понесло.

Важно понимать, что вот это вот всё что происходит - это цветочки. Жизнь ускоряется, всё меняется, но предела этому нет. Ну как нет... пока нет.

Мы уже шагнули в неё, или еще в процессе?

А какая разница? Вы пробовали увеличивать экспоненту? Вот мы на этой экспоненте, гравитации нет, и пойди пойми на какой мы её части сидим. Это ж вопрос масштаба. Мы такое не очень хорошо интуитивно понимаем.

Всю нашу человеческую историю люди примерно то же самое испытывали. Брюзжали на молодёжь, сетовали на стариков, считали себя пупом мироздания. И, что характерно, не ошибались. Просто эта волна не стоит на месте.

А чего вы хотите? Если мы "летим" в сингуляность, то никакого горизонта событий мы, конечно же, не заметим. Он "виден" только внешнему наблюдателю, да и то весьма условно. Тут аналогия с черной дырой гораздо глубже, чем кажется.

Падая на черную дыру человек никак не заметит момента перехода через горизонт событий. Это для внешнего наблюдателя он замрёт и начнёт краснеть. Ещё бы, в черную дыру сунулся...

Но у нас-то, у человеков, никакого внешнего наблюдателя нету. Все мы, как говорится, на одном бревне:

Вот и не мудрено, что никакого горизонта мы не увидим.

А что у нас принято про сингулярность думать?

Это просто бестолковые слова. Все такие определения упираются в старика Гёделя с его принципиальной неполнотой любых систем. Нельзя всему на свете дать определения и получить согласующуюся непротиворечивую систему. Даже не буду углубляться почему. Есть теорема прикольная, но там для ботанов, чтоб её вкурить. Шрёдингер его знает понял её я, к примеру, или только иллюзии питаю. Скорее всего так и есть.

Так вот, к коллайдеру сингулярности. Можем ли мы сказать, что сейчас прогресс не быстрый? А когда он был не быстрый? Нет, ну задним числом-то понятно, что сейчас быстрее, ага. И всегда так было. Это та же самая экспонента. Но при ближайшем увеличении нифига не понятно где мы на этой экспоненте. А если отдалить? Надо проиллюстрировать. Во, сделяль (простите=):

Это просто разные масштабы графика. То, что нам в любой момент кажется прям высоко и круто, то при другом масштабе нифига не тянет на сингулярность по виду.

Так и живём.

Если не скатимся с этой горочки обратно в минуса к нулю в "бебле ядердага агдя", то так и пойдёт!

А вы почитайте советские газеты. Там новости печатали. У меня где-то старые журналы "Компьютерра" были (хотел щегольнуть, да лень искать). Листаешь, и диву даёшься! Вот ведь своего рода вершина тогдашечная технологического прогресса была. Смех, да и только. [Предлагаю начать филиал ада в комментах по поводу срача про Лунную гонку, про нелеталов, про "могли же"\"не могли же", про "деградируем"...]

Сильно ли мы далеко ушли от Сократа? Вот ты, читатель, лично ты далеко ли ушел от Сократа в своём познании и развитии? А?! Признавайся! То-то же!

<дед, ты чё там, спишь, или того..?>

К чему это я.
Представьте, что весь нынешний хайп по ИИ - это такой же хайп, что был про доткомы. Хайп? Хайп! Пузырь? Пузырь! На пустом месте? Э, нет.

Как интернет изменил когда-то всю нашу действительность, так и ИИ (черт его подери) тоже изменит буквально всё. Но надо понимать. что он и поменяет и не поменяет вот это вот ВСЁ.

Да, перетасует очередной раз рынок труда немношк. Но никто не пойдёт попрошайничать на паперти... Погодите в панамку пихать, кто-то, конечно, пойдёт, но не массово. Вон лифтёров (шофёров лифта) на паперть прогресс в автоматике вынул? А телефонисток? Люди просто будут делать что-то другое.

Ага! Щас! Аж два раза! Как фотография сделала ненужными художников. А фотохудожники откуда взялись? А портретисты все массово прям с голоду дохли? Ну те, что королям портреты писали. Дудки!

Сейчас у тех, кто что-то малевал в фотошопе, ещё больше работы. Они теперь "промптят" в нанабанане. или ещё где. У программистов работы прибавилось. Попросите какого-нибудь Клода декомпозировать разработку какого-нибудь сервиса на задачи и оценить их сроки. Он по старой памяти там недели ставит! А посидишь с ним, потрындишь пару часиков, помикроменеджментишь, повайбкодишь, и недельные таски закрываются за 15 минут. Пойти поссать некогда, ведь лимит токенов ещё не выбран, а он, сука, так и молотит. И опять какую-то лажу. Но тем не менее сервис за вечер накалякать - легко. Да, дерьмовый, да не без проблем, да с нюансами, да шлак, может быть, но вы это дерьмо не выслали бы из головы за такие сроки, и по факту ваша производительность наверно выросла, и всего человечества производительность потихоньку растёт... ну как растёт... тут тоже не без нюансов. Как ещё мерять... Но не суть.

Так, не бухти, деда. Панамку потом принесу. У самого много вопросов ко всему. Но мир меняется. Как бы мы о нём ни думали. И всегда менялся.

А даввайте представим себя футуролухами.

Но сперва посмеёмся над своими предками. которые тем же пытались пробавляться.

Я это всё к чему. Смех смехом, но всё что мы тут сейчас напридумываем в угаре футурологических прогнозов уже так или иначе придумали и написали фантасты прошлого века.

Если убрать всякие телепорты и сверхсветовые полёты, то ничто не выглядит так уж фантастично в их фвнтазиях.

Хотел набросать старых книжек, которые в контексте ИИ нам сейчас показались бы... ну актуальными. наконец, что ли... Однако Память моя намекает, что это, наверно, тема какого-то следующего поста. А Лень и Прокрастинация бухтят, что и то не факт.

Однако навангую, всё же, что агенты ИИ у нас скоро пройдут стадию личинки гомункула и переродятся в ИскИны. О сознании там говорить ещё рано и далеко, хотя новости очередной раз дают поводы подумать об этом. Однако зачем ИскИну сосзнание, когда он может его имитировать? В конце концов есть подозрение, что большинство людей этим занимается всю жизнь.

Нахрена нам ИскИны, спросите вы? Да потому что могём! По приколу. Вы посмотрите что люди делают с чатом ЖПТ. Наверняка кто-то силиконовую вагинишну из банки принглс и шуруповёрта с его помощью спроектировал, а теперь прикручивает MCP, чтобы по теме разговора интерактивничало. Не, серьёзно! Там чуть ли не женятся на них! И после этого кто-то спрашивает зачем ИскИн?

А чего ждём от Эпла нашего? Делает же какую-то приблуду, которую не надо будет активировать как Алису. Типа собеседник такой с камерой и ушами, но без экрана. Вот истино вам говорю, опять очереди стоять будут! Но это не точно.

Просто на Алису плевались. мол подслушивает, а это со свистом в каждом доме-поди, где айфон есть пропишется. Ну или нет. были всякие прецеденты. Тут поди угадай.

Но на короткое плечо гадать трудно, поймают на слове. Мы же будем прогнозы строить на подальше, там наши прогнозы забудут и, если повезёт. не посмеются над нашими "летающими почтальонами".

ИскИнам быть. Мы со свистом заливать туда в них будем всё. Всю нашу подноготную. которую так бережно и щепетильно оберегали от корпораций. Мы променяем нашу цифровую анонимностьт и свободу радотсно и с этузиазмом, как сделали это начав таскать в кармане смартфон.

Да, не надо себя обманывать. Всем вокруг будет так удобно, что даже самые страшные параноики будут пользоваться благами цивилизации. А куда деваться? Тут не будет как в мультике, все будем в своих уютненьких цифровых клеточках сидеть и нахваливать:

И что толку городиться, если камеры и так повсюду? Проще плюнуть, но в камеру все равно попадёшь.

И чем это нам грозит? Да ничем. Злые языки скажут "отупением". И да, и нет. Генетически это скажется на масштабах сотен тысяч лет лишь. Мы уже изрядно отупели из-за нашей цивилизации, но найдите кого-нибудь, кто не прочь вернуться в ту дикость, когда нужны были те мозги!

Главное, что надо понимать, - это помимо генетического отупения на больших масштабах времени, нам грозит интеллектуальное ожирение на малых. Это как с малоподвижным образом жизни благодаря удалёнке и транспорту - "дарами" цивилизации.

Теперь ИИ в целом и ИскИны в частности за нас как двое из ларца будут "помнить" всё подряд, что раньше приходилось в голове держать, или в записной книжке. Будут за нас разжевывать трудные параграфы в учебе. да и учиться особо зачем? Поднахвататься эрудиции, а там методичка ИИшка есть - пошли сдавать.

И ведь не тугосери мы со всеми этими интеллектуальными аугументациями. Со всеми этими мозговыми "экзоскелтами" в шкафу, которые позволяют навайбкодить даже не разобравшись ни тогда ни сейчас забытый с института ПИД-регулятор какой-нибудь.

Результат-то есть! Вот вечер посидел и ДиАйВай проджект с бестолковой на работающей убервафлей (приставкой к флюгензаймену). Мыслимо такое было лет 5-10 назад? Неть!

От тож...

Так что же делать? Как быть с интеллектуальным ожирением? А кто-то ничего не будет делать.

Однако помимо спортзалов, как ни крути, должны появляться будут и набирать популярность какие-то интеллектуальные качалки. Даже не знаю как это будет выглядеть. Давайте уже тоже помогайте делать будущие ретрофутурологические прогнозы.

Окей, ИИшки и нейросети у нас станут протезами памяти и интеллекта. памяти не только короткой (про события, планы, контакты), но и длинной (знания, навыки, опыт). Люди будут сливать в свой личный контекст всё подряд. Благо нейросети и в соц-сети вплетутся незаметненько. Это сейчас нам кажется, что сети там и тут - это разное. А потом, херяк (!) - синергия. Ух мы вы этих сетях побарахтаемся!

Будут наши сети за нас помнить фильмы, книги, сюжеты. Будут за нас многое хотеть, что самим уже хотеть лень. А че, дохера ж всего доступно становится. Хотеть тоже можно бОльшего! Вот на всё уже хотелки не хватит, хотеть за нас будут наши контекстные ИскИны, которые настолько нам близкими и родными станут, что считай внешняя аугументация всего: от этики до эмоций, от мечтаний до планов, от... не, ну разве нет?

Это процесс уже идёт, и шел давно. Помните в инстаграм еду фоткали? Где теперь эти фоточки... Но это первые звоночки. Ой, да что я несу, какие первые-то? До того ЖЖ был, а до того субкультуры, эмо, готы... Всё это кипение культурных слоёв нашей цивилизации оно не спроста. Вся эта каша заварилась ещё в палеоцене.

Кто-то по старой памяти пророчит, что ИИ нас поработит. Ха-ха-ха! Он - это мы!

Просто подумайте о том. где мы проводим границу абстракции. Что такое люди? Мы ничто без нашей ноосферы. Выкинь нас на пустую планету, дай кислорода и мяса, и мы погибнем. Потому что нет экосистемы. Не только природной, которая нам воздух регенерирует, но и техногенной. которая нам всё остальное даёт от еды (вы ведь не дичью питаетесь), до воды (столько уже родники не дадут, чтоб всем хватило). Одежда, транспорт, сложные бесконечные производствнные переплетенные цепочки запчастей нашей цивилищации. ИИ вплетается в этот клубок точно так же. Что за "пчёлы против мёда" нас беспокоят?

Конечно, можно наделать каких-нибудь локальных бед, но так мы могли бы и ялерным оружием наделать этих бед. Всё равно нам не переплюнуть кислородную катастрофу и геноцид с вымиранием, который устроили цианобактерии в своё время. Мы (наш вид) ни по числу, ни по воздействию на биосферу их не переплюнули.

Поэтому я топлю уже который пост за то, что нет никакого смысла понимать под "мы" один единственный вид или характер жизни (биологический). Мы - это наша цивилизация, бурлящая и кишащая тонюсенькой кибер-био-органической плёнкой на поверхности нашего шарика в глубине его гравитационного колодца.

Летаем мы над этой плёночкой пока что низЕнько-низЕнько, а наши самые серьёзные достижения - это немножко следов на спутнике, жа пара "плевков" - вояджеры, улетающие в неведомые дали.

Хочу тут напомнить вам про те экспоненты. что сверху. Нам кажется. что мы сейчас на вершине прогресса. Да, так оно и есть, но всё ещё впереди! Пещерный человек, впервые "заточивший" кремень об гранит, чтобы освежевать тушу, тоже когда-то был на вершине прогресса. И в грядущих масштабах в будущих перспективах мы сейчасошние будем выглядеть валяющимися на оси абсцисс, хотя сейчас многим кажется, что едва держимся на круто убегающей в небеса кривой-экспоненте.

Аугументация интеллекта продолжится. ИИ просочится в нас как письменность в нашу культуру даже без всяких имплантов, но и они не за горами. Связь, общение, обучение, искусство станут и в корне иными, и удивительно такими же, что и сейчас. Смотря как глядеть и где проводить границы, какие выделять аналогии.

Мы найдём и поймаем Вояджеры, а может быть сделаем вокруг них летящие вдаль музеи. Накроем куполами первые следы на Луне, чтобы их не запорошило пылью с ботинок прилетающих туристов. Телеприсутствие, аддитивные репликаторы, нанотехнологии... да там внизу полно места, -- это всё наше будущее. Может быть я где-то подпустил "ретрофутуризма", но это мелочи. Как без этого?

Знаете что меня тревожит на таких масштабах взгляда в будущее? Найдёт ли эта наша тоненькая кибербиоорганическая плёночка другую такую же, чтобы смешаться с нею своими мемами - как гаметами, и породить что-то новое. Или так и будем процветать на нашей планете пушком плесени, наивно стремящейся ко второму типу по Кардашеву?

И в голове как эхо представляется мысль, идущая через поколения: "В какое же интересное время я живу!".

Ну что, надо ещё готовить непромаринованного ретрофутуризма в ленту?