Ответ на пост «Интервью с Deepseek'ом»⁠⁠1

Одно да потому=)
Ну сколько можно мусолить-то? Хотя наверно для кого-то эти идеи в новинку. Тогда почему нет?

Занятно, но никто никому не мешает выделить LLM-ке несколько террабайт векторного хранилища, реализовать RAG и CAG из диалогов, пайплайны для выжимки из них самой сути. Никто никому не мешает зациклить LLM в бесконечном цикле саморефлексии с подмешиванием внешней информации. Никто не мешает дать получившемуся пайплайну MCP, через который можно будет обращаться к другим спциализированным нейронкам, или запускать другие потоки "мышления". Нет никакой причины, почему никто не будет внедрять новые и новые мультимодальные нейронки, авто-вайбкодингом обновлять MCP...

Да что там, никто не помешает получившемуся монстрику Франкенштейна самому "вайбкодить" себе новые модули и MCP, покупать себе через агентные браузеры VDS-ки и мощности в датацентрах по всему миру для запуска своих моделей, запускать на этих мощностях обучение и дистилляцию своих уже обученных нейросетей для оптимизации каких-нибудь метрик, которые даже простенький дипсик уже готов пачками предлагать и планировать внедрение.

Такой комбайн вполне мог бы уже работать на каком-нибудь фрилансе, и даже нанимать субподрядчиков на сложные проекты, требующие пока что специфических умений мешков с костями. Если у получившегося конгломерата нейронок получится хорошо зарабатывать, то такая штука вполне могла бы расти.

Это как тот скандальный девайс из десятых годов, который как произведени е искусства был продан с контрактом подключить машину к сети и не запрещать ей продавать себя на аукционе ebay с тем же контрактом. Не знаю чем кончил этот перфоманс, но идея забавная и её вполне можно повторить уже в новых реалиях.

Короче! Если никто никому не мешает. если вокруг темы надувается неслабых размеров пузырь, а то и даже целый ворох пены, если инвестиции туда текут рекой, а кто-то всерьёз задумывается об AGI, то насколько наивными нужно быть, чтобы допускать хотя бы вероятность того, что всё перечисленное никто не делает прямо сейчас?

А значит это всё происходит. И это чертовски интересно. Джин выпущен из бутылки и разминает клубы своего сизого дыма заволакивая этим туманным покрывалом юридический и этический ландшафт разворачивающейся большой проблемы, встающей во весь рост перед человечеством.

Нет, это не проблема, которая прям "проблема". Ну в смысле, с которой надо или можно бороться. Это "проблема" как ситуация. Проблема как челлендж. Проблема как явление и феномен, которые уже нельзя не замечать. Это нечто, что переворачивает уже и точно перевернёт не раз всю "игру". Это фазовый переход сложности человеческой ноосферы, перерастание клубка процессов связанных с технологиями, связью, накоплением информации, естественным отбором и небиологической витальностью такого понятия как мемы -- перерастание и трансформацию всего этого в своеобразный развивающийся эгрегор нашей цивилизации. Наши мозги и наша цивилизация - это субстрат, в массе которого этот эгрегор живёт.

С ним можно поговорить. Мысленный эксперимент: посадите любое количество людей в комнату (дом) и заставьте коллегиально решать как отвечать на реплики в одном единственном чате. С другой стороны в этот чат может прийти кто угодно, задать вопрос, пообщаться. что-то рассказать... С кем в реальности происходит общение? С распределенным по мозгам участников сознанием. Где память? В этих самых мозгах и истории диалога. Где знания? В мозгах и интернете, который эти запертые люди используют для взвешенного составления и выбора из вариантов своего ответа.

Вот такой же "внутренний" диалог у нас происходит тут на Пикабу, например. Пикабу шизофреник, с расщепленным мозгом, который странно себя ведет, не последователен, порой агрессивен, иногда вполне адекватен, местами оригинален, но чаще душен и занудноват, любит баяны. В общем, вполне себе личность. Бывают индивиды и похуже.

Так если вернуться к ИИ, то это, скорее, своеобразная такая китайская комната, оператора которой заменили кучей видеокарт, а инструкции - это веса генеративной модели, которые составили автоматически путём статистической переработки всех текстов интернета.

Проводя аналогии кажется, что всё это явления одной плюс-минус природы. Результат преодоления порога сложности, когда количество рождат эмерджентные качественные свойства, уже не бесполезные, уже приносящие добавленную стоимость нашему ООО "Планета Земля".

Вот читал оригинальный пост, который, по-честному, надо бы убрать из сообщества ИИ согласно его правил, ведь это генеративный контент (= но не уберем, потому что его смысл в другом и автор привёл промты =).
Вот читал-читал этот диалог, собранный нейронкой из кучи клише человеческой рефлексии о природе интеллекта и сознания, и, знаете, пришла странная безумная идея на ум.