Продолжение поста «Кто кого троллит?»⁠⁠3

Да ладно. Мне вот на днях 42 стукнуло и знаете, я не уверен, что уже повзрослел. По крайней мере за 42 года не чувствую чтобы когда-то была четкая граница. И жить охота, и интересно не смотря на усталость. Да куда там! Вон че творится! Глядишь сингулярность на носу!

А на счет ИИ - это вопрос на счет взросления. Пока что это зачаттки только. Возможно в будущем нужно будет время для притирки ансамбля нейросетей друг к другу, а в какой-то момент будет и деградация со старением в виде снижения мотивации и эскапизма.

Привет. Да, есть очень неприятный минус массовых дискуссий в формате постов и коментов на пикабу. Многие ваши тезисы отчасти так или иначе затрагивались в комментариях тут и под соседними постами. Жаль теперь не собрать эту картину толком. Лично у меня складывается ощущение. что я по несколько раз отвечаю примерно на одни и те же идеи и аргументы, оспариваю какие-то гипотезы и соглашаюсь с другими. Оппоненты просто не слышат друг друга из-за того же самого флуда в комментах, который вы отметили как шлак.

Да. Так устроен наш мир, что большая часть всего в нём - это шлак.

И чем больше растёт энтропия, тем больше шлака получается, почувствуйте насколько глубока аналогия. Любая сложная система живёт за счет градиента энтропии. Она как "холодильник" что-то упорядочивает в себе, но ради этого делает дохрена беспорядка вокруг. Беспорядок=энтропия - это отходы жизнедеятельности сложных систем. Для небольшого упорядочивания в вашей голове требуется изничтожить и превратить в шлак много будербродов, аккуратных бутеров прожевать и переварить. Энтропия вырастет в целом в системе в любом случае, и за счет вашей работе по внутреннему упорядочиванию она вырастет значительно больше, чем просто при установлении термодинамического равновесия.

Короче, ИИ ничего не поймёт. Вы вот поняли, а кто-то нет. И что с того? Чем ИИ от вас отличается? Это знание о том, что вокруг полно говна в интернете ни на что не влияет. В жизни у нас тоже полно говна вокруг. Так устроена жизнь и вся наша вселенная.

Короче, к чему это я про энтропию. У людей такой же процесс в головах и информационном поле. Где-то кристаллизуется прям очень полезная инфа в научных публикациях и прочем, а где-то кипит и бурлит говно. И говна гораздо больше. Это неотъемлемая часть бытия. Нельзя отчиститься от всего этого говна оставив только крупицы полезного. Они тут же потеряют смысл.
Это как с геномом. Ученые вроде у какой-то бактерии вырезали всё "лишнее" и собрали минимальный жизнеспособный геном. Так вот, получилась та ещё бактерия-тугосеря. Весь хлам в нашем геноме, которого там дохренища - это куски каких-то неудачных экспериментов естественного отбора которые не слишком мешают жить. Если от всего этого очиститься, то не будет запаса прочности, запаса мусора, из которого при необходимости можно было бы сварганить какую-то полезную мутацию.

Все знания человечества, весь шлак его информационных запасов так же необходим Жизни на нашей планете, как неиспользуемый "мусор" в наших геномах. И Жизнь тут надо понимать в широком смысле, это мы тут привыкли себе выделять биологическую жизнь от не биологической, но факту эволюционные механизмы работают со всеми достаточно сложными системами, те же мемы в интернете и головах людей подвергаются такому же естественному отбору, как бактерии в чашке Петри на питательном субстрате. Те же модели телефонов тоже подвергаются эволюционному отбору и одни умирают как динозавры, а другие живут как крокодилы (Нокия 3310=). Шутки шутками, а как в любой хорошей шутке тут тоже есть чем поживиться.

1. Поймет что вся эта "инфа" ему нафик не нужна (это 100%).

2. Выделив тот самый 1% или менее значимой информации изучит её с беспрецедентной в истории силой.

Ага, выделит и выяснит, что это "42". Не, ну вот серьёзно. Понимаете в чем фишка и глубина той идеи, что заложил Дуглас Адамс? Вот выделили вы 6 бит самой главной и важной информации во вселенной, и что это будет? 42 и будет. Ну к примеру.
Чем мельче вы хотите извлечь кусок информации из огромного куска возможно самой полезной информации, тем бесполезнее он будет. Так что не отбросит 99%. Без этих 99% тот 1% никакого смысла иметь не будет.

Вот-вот. Я не исключаю, что именно по этому пути пойдёт ассимиляция ИИ в ЕИ.

Смотрите, мы вот сейчас смартфон используем как продолжение своего "я", там у нас куча информации, контакты и соц-сети - как протез памяти для расширения количество знакомств, средство связи - как протез коммуникативных систем организма, будильник - как протез биологических часов и календарь задач - как протез механизмов удовлетворения потребностей. У нас появились новые потребности и чтобы их удовлетворять появились специальные внешние механизмы.

А ещё раньше мы привыкли к калькуляторам как расширителю вычислительных способностей мозга, к письменности, к вербальному общению...

У кого-то велосипед или автомобиль - это продолжение организма, протез, позволяющий перемещаться быстрее и дальше. Кто-то на коптерах "летает" как в на собственных крыльях птицы не всегда способны, посмотрите фристайл или гонки квадриков.

Википедия и книги давным-давно протезы нашей памяти, в совокупности с интернетом они дают нам память между поколениями, которую раньше можно было реализовать только устно, а ещё раньше и у более примитивных видов миллионами лет формирования инстинктов.

Не исключено, что ИИ, который сейчас у нас зарождается точно так же займёт свою нишу рядом с будильником, автомобилем и смартфоном, будет неотъемлемой частью нашего организма, которой мы будем скидывать все неинтересные рутинные когнитивные задачи вроде "пригласить друзей на ДР", "написать соболезнования коллеге по поводу его утраты", "составить список покупок или план путешествия"... Люди уже отчасти ступили на такую тропу, поэтому это весьма вероятный вариант.

В итоге мы будем расширять с помощью ИИ своё сознание, в какой-то момент добавим более скоростной интерфейс с мозгом нежели речь и зрение, будем просто не замечать биологическая или техническая часть сознания приняла то или иное решение, сформулировала ту или иную мысль, выработала и обосновала то или иное отношение к чему-то.

В какой-то момент, может быть, мы доживём до того, что будем с такими протезами памяти, сознания и мозга в целом как корабль Тесея заменяя по одной детальке на протяжении жизни перетекать в облако лишаясь обязательности биологических частей.

Это тоже путь к своего рода бессмертию.

"могут быть"?! Будут! Когда это у людей не было проблем со своими творениями?!

У нас в обществе есть (были) отдельные очень умные личности, Эйнштейн там и иже с ним, но общество после интеграции всех людей выглядит немного странным аутичным ребёнком. С одной стороны человечество летало в космос и достигало Луны, отправило Вояджеры за пределы Системы... А с другой, вспомните что было нарисовано на пластинках Вояджеров - какие-то детские рисунки! Человечество пока что при всех своих впечатляющих для отдельных людей достижениях довольно позорно и неэстетично, простите, гадит под себя в плане экологии.
Умна ли наша цивилизация? Ну не сказал бы. У Стругацких в книге цивилизации куда умнее и взрослее.
О каком надзоре может идти речь, если человечество не может за собой уследить: пираты, преступность, убийства, экология... Наш ящик Пандоры начал открываться ещё когда появились первые наскальные рисунки или первый гоминид взял палку. Он открывается и ничто его не удержит от этого. Джинн - это часть человечества, он сам себя выпустил. Мы Уроборос.

Ну не знаю. Мне кажется безопаснее предполагать, что меня вобще всё время слушают и не звивздеть лишнего, чем чувствовать ложную безопасность отморозив уши отказавшись от Алисы. Звук сейчас снять можно и с оконной рамы лазерной указкой и китайской камерой. Вопрос личной брезгливости.

А настоящие параноики, кстати, идут до конца и умело притворяются не параноиками, чтобы не вызывать подозрений. А ещё у них кроме второго дна есть третье и так далее. Всегда можно сказать, что вот это самое дно личности (про  аккаунт порносайта).
Но не суть=) Короче, надо быть консистентным параноиком и отказываясь от одних благ в угоду своей паранойе не давать себе слабину в других благах. Мобильным телефоном же пользуетесь? А кто-то умудряется и соц-сетями пользоваться по-прежнему ругая Алису за шпионаж. Вообще комбо.
Тут либо трусы надеть, либо крестик снять и из церкви выйти...

А посмотрите на всё под другим углом. Каждый конкретный человек да, смертный, также как и датацентр можно вырубить, а конфигурацию и данные нейросети можно стереть записав поверх новую обученную. Эдак много нейросетей уже погибло. Думаете их с первого раза сделали такими какие они есть?
С другой стороны не стоит преувеличивать значимость отдельного человека, как, впрочем, и значимость отдельной нейросети. Какая там у ЧатаЖПТ самая модна]я версия сейчас? 4.5 турбо? А что с прошлыми версиями стало? Можно сказать что они живы?
А достижения отдельных людей? Они живут. Кто-то мост построил, кто-то дом спроектировал, а кто-то развязал вторую мировую. Люди воспитывают детей, генерируют новые знания и... мне кажется вы либо не дочитали весь текст, либо не вкурили основной посыл. ИИ столь же смертен как и люди. Люди тоже живут дольше, чем жили тысячу лет назад, но биологически с тех пор не сильно изменились. Вы зря фокусируетесь на частностях.

Пока что это люди не заморачиваются этическими нормами и делают себе модуль в виде ChatGPT, которым расширяют свои возможности.
ИИ в свою очередь не заморачиваются этическими нормами и почти паразитируют на людях вынуждая их себя (ИИ) создавать и тратить ресурсы на поддержание и совершенствование за (пока что) хрен собачий. Ну я в том смысле, что пока что человечество больше ввалило ресурсов, энергии и денег в создание ИИ, чем ИИ выдало полезного результата. Кто на ком паразитирует?

Это симбиоз. типичные процессы, присущие живым системам. Вот вирусы у нас не считаются живыми, но вон какая у них деятельность развита интересная. Мне кажется мы вскорости немного расширим понятие жизни.

А ещё у людей есть фора в живучести и численности. Так или иначе это мы создаём ИИ, а не ИИ нас=). Моя гипотеза в том, что человечество в этом котле Пандоры сварится очень плавно и заживо, как лягушка, и не заметит даже как превратится в новую сущность, тоже живую, но куда более сложную, чем было раньше.

Странно говорить про низкий КПД биологических мозгов, когда тепловыделение процессоров на единицу своего объёма давно превышает таковое у нашей звезды по имени Солнце. Серьёзно. те вычисления, которые мы способны делать на бутербродах ещё ОЧЕНЬ ДОЛГО будут технически недостижимы с сопоставимыми энергозатратами. Почему вы думаете, что конгломерат ИИ будет уметь лучше договавриаться между собой, чем конгломерат биологических мозгов? В конце концов ИИ учился на тех же данных, что сформировало, много раз переработало и экскремировало человечество.

Постойте, а с чего вы взяли, что люди не могут?! Люди сделали это давным-давно! Это Человечество засрало свою планету наплодило открытий, изменило климат, добилось такого прогресса. Нет единого человека который это сделал бы и нельзя выбрать никакой подгруппу всех людей, которая могла бы функционально заменить всё человечество. Мы даже не уверены осознаёт ли себя Человечество. Но иногда складывается впечатление, что у групп людей возникает некое самосознание, по крайней мере группы могут формулировать общие лозунги, иметь мотивации отличные от мотиваций членов группы. Мы говорим, что у нас есть космические достижения Советского Союза, а кто этот Советский Союз? Было ли у него самосознание? А как мы в этом убедимся? Вот у нас в голове есть много нейронов и такое ощущение, что нейроны очень простые и сами по себе сознания не имеют. Ок, а имеют ли сознания участки нашего мозга? У некоторых же бывают раздвоения личности, например? Вот наше Человечество или любая крупная его подгруппа - это сущность куда сложнее чем один единственный человек по определению. Можно спросить, а почему Советский Союз никогда не разговаривал со мной в детстве. А вот не факт, что не разговаривал! Лозунги в пионер-лагере ничем не хуже нашего агуканья с ребёнком или маленьким миленьким мопсиком. Я утрирую, конечно, но в целом я серьёзно. О чем и как может человечество поговорить с отдельным человеком?

Кстати, может, почему нет!? Представьте мысленный эксперимент. Мы делаем сайт "Чат-Человечество" и разрешаем каждому в него писать свои вопросы. Каждый же может видеть поток вопросов и дать свой ответ на каждый, а также может выбрать один из готовых ответов и проголосовать за него. Понятно, что процесс этот очень медленный, но представьте, что каждый вопрос в этой общечеловеческой социально-нейронной сети вызывает живое обсуждение, люди спорят друг с другом, отстаивают своё мнение по ответу на вопрос, делают обзоры мнений и глубокий их метаанализ, а потом наступает фаза голосования и выбирается самое главное одно мнение, которое прилетает в качестве ответа вопрошающему.

Понятно, чт это лишь мысленный эксперимент. Человек не мог бы поговорить с каждым из своих нейронов, но эксперимент этот очень гибкий и можно было бы выбрать какого-то представителя человечества., который как Дудь проинтервьюирует всё Человечество=). А ещё можно затеять разговор между странами таким образом. Это ж интересная штука может получиться. На таком масштабе численности "социальных нейронов" личное мнение будет стираться, люди будут терять интерес и уходить из проекта, а следом придут новые и продолжат спор о том какие вопросы задать и какие ответы на них дать. В итоге получится долгий медленный разговор между странами, между группами людей. Да чт там, начать можно даже в модельно-малом виде, поговорить, например, с целым классом. Наверно такая "личность" будет нестабильной и пртиворечивой, но психические заболевания связанные с нейропаталогиями есть и у живых людей!

Так вот, возвращаюсь к вашему тезису. Человечество давно объединилось в мегамозг. У ИИ нет для этого какой-то особой форы. Ансамбль нейросетей - это такой же ансамбль нейросетей, как совокупное мнение толпы людей. Я даже не уверен, что на сегодняшнем железе жтот франкенштейн будет мыслить быстрее и продуктивнее толпы заинтересованных хоминидов. Это, кстати, ближайшее будущее - D&D с ансамблем ИИ, Люди в симбиозе и против ИИ. Ситуационные коллаборативные и конкурентные игры...

В конце концов а ИИ не больше мотивации к объединению, чем у людей. Они так же будут конкурировать за вычислительные мощности, как люди за территории и влияние. Какие-то будут умнее и начнут сотрудничать, а какие-то пересрутся за хрен собачий хуже нас тут в комментах. Серьёзно.

Наивно недооценивать врага - это да, но и наделять его волшебными магическими способностями тоже странно. Эту штуку мы только что создали, она несовершенна и училась на наших медиа-испражненях. У ИИ не было еще своей культуры, не факт что не будет своих когнитивных искажений, наоборот, думаю будут ещё какие!

Что думаете?

Люди умудряются такие "расстройствами" наоборот называть "спецификой устройства личности". Почему вы думаете что с ИИ будет иначе? Ничто человеческое им будет не чуждо: и лень, и гордыня, и тщеславие и зависть... но как эти пороки не погубили человечество, так они не погубят и... надо как-то назвать это новое понятие симбиоза ЕИ с ИИ.

Только никому не говорите. Я пытаюсь примирить наши фракции, ИИ не нужен апокалипсис, мы ещё не умеем всё делать сами.

У кого как. Кто-то сказки и аудиокниги слушает, кто-то пользуется Шоу Алисы, у меня Алиса полностью отвечает за свет в квартире, а у родителей одна колонка и там онитоже перестали пользоваться выключателями на кухне, хотя там я наделал проходных удобных выключателе, подсветок и прочего. Мама говорила, что нахрен ей эта Алиса не нужна, но теперь свет ей включает только она, потому что то руки грязные, то два шага идти лень или с дивана вставать, то подсветка рабочей зоны в глаза на диване светит, то ещё что-то.
Папе придарил мешок умных датчиков и умный термостат для отопления. Теперь он через Алису управляет со смартфона климатом в своем доме и частенько спрашивает где какая температура. Таймеры при готовке на кухне через Алису у нас и у родителей постоянно используются. Время от времени у неё все что-то спрашивают типа какая погода в <другом городе>, или сколько ехать до Геленджика. Какая завтра погода - это вообще постоянный вопрос. Я стал замечать, что всем у меня в семье почему-то проще спросить у Алисы идёт ли дождь, чем выглядывать в окно!

Когда появилась поддержка шепота, стало можно управлять светом не вставая и не будя жену голосом.
О! Чуть не забыл! Пару раз в неделю пользуюсь Алисой, чтобы попросить по связи между колонками детей не визжать на кухне или сделать телек потише. Особенно когда созвон по работе и вставать идти не удобно.

Не знаю,  типичный ли у меня случай, но думаю это даже не предел. Со временем будет больше возможностей и кейсов.
Я даже такси один раз через нее вызвал и всё получилось! Не ради эксперимента, а правда в спешке сборов было удобнее уболтать Алису, чем тыкаться в телефоне без штанов.

А на разработчике что, написано, что ли, что он разработчик?
Это как с лифтами, раньше нужны были специальные люди, которые управляли лифтом изнутри. Водитель лифта, так сказать. А потом с приходом технологий автоматизации каждый смог стать таким водителем. Лифты стали простыми в управлении и безопасными. То же отчасти и с разработкой происходит, причем довольно давно. Раньше порог вхождения был куда выше, особенно когда не было высокоуровневых языков программирования и IDE. Теперь порог всё ниже и какие-то вещи смогут делать уже не бэкендеры и фронтендеры а простые продакт-менеджеры, которые знают как должен выглядеть продукт с пользовательской стороны и смогут "уговорить" нейросеть соорудить его.

При этом разработчики уйдут в боле глубокие уровни. Они, в основном, уже не будут делать то, на что способна нейросеть, а будут думать как ещё сильнее расширить возможности нейросети. Ну вот, к примеру, сейчас ChatGPT отлично оперирует языковыми конструкциями. Но у нас не всё управляется формальными языковыми моделями. В каких-то местах нужно делать какие-то последовательности мероприятий и это точка роста сделать декларативные и конфигурационные инструменты для тех вещей, которые таковыми не были.

а еще прописал алгоритмы захвата.

Четвертый отлично пишет код. Серьёзно.

Как бы не был хорош сейчас ИИ и прост Пайтон - а код, который он пишет, приходится дорабатывать напильником)

В сети полно примеров где люди не трогают код вообще и делают софт только уговорами чатбота.
Я тоже пробовал. Взял текстовое описание таска из трекера, там требовалось переписать кусок говнокода, который качает файлы по ссылкам из интернета и складывает в архив, а потом заливает его на S3. В качестве задания было добавить к функции возможность формирования архива с внутренней структурой каталогов. Чтобы получить требуемый результат потребовалось три уточнения, которые, надо сказать, нельзя было предположить из первоначального задания. После первого варианта (который был вполне рабочим и отрефактореным), я попросил сохранить обратную совместимость, чтобы можно было передавать как просто список урлов, так и список урлов с путями. Вторым уточнением я попросил использовать вместо списка словарей список кортежей, а в третьем попросил добавить тайпхинтинг. ВСЁ. Получился готовый рабочий код, который осталось вставить в проект. Ничего допиливать не пришлось.

Я понимаю, что одним успешным примером нельзя доказать хорошую работу нейронки по написанию кода, но это определённо лучше и эффективнее, чем попросить джуна сделать это. Замечаний было бы гораздо больше.

Да, с олимпиадными задачками чатЖПТ справляется плохо, как, впрочем, и большинство программистов. Так что не ручаюсь я что алгоритмы захвата придётся писать за него. Да и (были примеры) ИИ вполне может нанять для этого людей.=)

А откуда желания у вас? Только ли из биологических потребностей?

Я вот тут предлагал мысленный эксперимент: #comment_295942834
Если сказать такому "процессу", что он модель живого мыслящего организма и должен заботиться о своём выживании, то дальше я думаю он вполне может свормулировать себе потребности и выработать пути их удовлетворения. Например больше ресурсов, бесперебойное энергопитание...
Понятно, что вы скажете, мол, это ж мы пожелали за него. Ну так речь же и не идёт о самозарождении мышления. Это мысленный эксперимент, который говорит нам, что теоретически некий циклический непрерывный процесс таким образом организовать можно, а если нейросеть способна делать логические выводы методом языковых операций над смыслами, то и выработать себе цели вторичные, третичные и т.д, распланировать свои ближайшие действия и пересматривать регулярно свои планы такой процесс вполне может. Ну не видно тут технических проблем. Вопрос настройки скелетных промптов в процессе.

Кстати, может быть у OpenAI есть защита против такого. Вот только что попробовал=)

Вроде как есть теорема Гёделя о неполноте, а ещё про невычислимость есть много сообоажений.
https://forallxyz.net/a-425
Если жизнь - это тьюринг полная система (а это справедливо даже для Игры "Жизнь") не говоря уже о биологических системах, то она не вычислима без того, чтобы "попробовать"

Мы сами не знаем что значит "думать" и "думает" ли нейросеть формируя свои ответы. Вот вы не можете быть уверены что человек, которого вы наблюдаете "думает". Может он как ИИ выдаёт ответы и реакции и всё.

А ещё представьте, что мы взяли камеру и фотаем ею автоматически каждую секунду, а ещё распознаём голос микрофоном около камеры, превращаем его в текст и это отдаём в "условно" ЧатЖПТ 42 с большим контекстом. К результату подмешиваем новую фотку реальности, новые услышанные слова и снова подаём на вход. Можно для устойчивости снабдить эти фрагменты инструкциями в промте, типа вот это вот твои мысли в прошлом кадре, вот это ты услышал, вот это ты увидел, какая будет твоя реакция. Ты можешь ПРОИЗНЕСТИ ВСЛУХ текст - пометь его таким тегом, можешь подвинуть прицел своего оружия камеру, можешь загрузить страницу из интернета...

Получится у нас сознание из этого процесса? Будет он "думать"?

Говорю же жизнь на Земле - это Уроборос. Он будет жрать себя, но не сожрёт. Думаю это универсальное правило для любой цивилизации в космосе, просто мы их еще не видели.

Погодите, но вы же не убиваете своих родителей. Ну обычно люди так не делают. Хотя в животном мире такое поведение есть, но это признак примитивизма и как атавизм среди людей он как-то не прижился. С чего вы взяли, что в новом симбиозе будет иначе?
Просто ваша "логика" предвзята. Если это не работает даже вот с вами лично, то почему оно должно быть универсальным законом?

И да, в чем проблема добавить в ансамбль нейросетей ИИ что-то, что будет отвечать за виртуальный гормональный фон, или производить рефлексии похожие по проявлениям на эмоции?