Серия «Простыми словами»

- А если не такая же, то в чем принципиальные отличия?

- Почему вы считаете принципиальными именно эти отличия?

- Даже если вот прямо сейчас у современных LLM нет потока сознания, памяти, рефлексии и прочего, то почему мы считаем, что они не появятся так же легко и неожиданно за счет относительно небольших по сложности структурных надстроек над LLM?

Уже год, наверно только ленивый не пробует сделать то самое сознание просто настроив промты, пайплайны и зациклив выход на вход с подмешиванием информации с внешних датчиков. Мы очень внезапно (это я как специалист вам говорю) получили фазовый переход количества в качество - штуку, способную решать когнитивные задачи на невиданном ранее уровне абстрактности. LLM уже сейчас переворачивает экономику и встраивается во все отрасли народного хозяйства.

Если предположить, что этот технологический скачок имеет потенциал, схожий с потенциалом появления у человечества электричества или интернета, то впереди очень много интересных изменений нашей с вами жизни. На нашем веку.

Почему вы считаете, что при всех технических "чудесах" и возможностях, которые сейчас нам уже дают большие языковые модели, до самосознания так уж далеко?

Моё скромное мнение такое. Люди не породят что-то столь же сложное как человеческий мозг или человеческая цивилизация, но мир стремительно меняется во всём своём объёме, это очередной технологический фазовый переход и в результате у нас получается отличная "утка". Она ходит как утка, крякает и летает как утка. Да, эту утку не сожрёт коршун и она не может питаться червячками. Если это взять критериями "уткости", то мы пока не получили искусственную утку. Но не надо подтасовывать критерии. До сих пор мы отличали уток по более простому перечню критериев.

Если что-то решает когнитивные задачи, то это ИИ. Настоящий ИИ.

Это лишь мнение, что Интеллект обязан иметь Сознание. Это лишь спор о терминологии. Если имеет смысл Интеллект без Самосознания, то имеет смысл и выделение его в отдельное понятие.

Мы ходим по тонкому философскому льду рассуждая о понятиях, которые, пока что, не можем даже на себе как-то определить. Я предлагаю быть прагматичными.

Думаю конструкт Человеческой Цивилизации всосёт ИИ в своё естество как всосал и растворил в себе такие искусственные конструкты, как письменность, логику, математику...

Одна единственная человеческая особь без воспитания и образования в человеческом обществе внутри нашей цивилизации будет как дикий "Маугли" едва ли на что-то способным, и не факт что сможет стройно рассуждать о чем-то даже приземлённом. У него не будет ни языка в голове, ни наследия общечеловеческого опыта.

Нынешний ИИ в виде LLM решает когнитивные задачи не только за счет нейро-сетевой искусственной структуры, но и за счет самой сложности и объёма статистических связей между выкристаллизовавшимися понятиями из густого раствора информации, который прогнали через систему обучения модели. У того, как работает LLM гораздо больше похожести на работу человеческого интеллекта, чем покажется на первый взгляд критически настроенному скептику, который не потрудится отстраниться от стереотипов и предрассудков по поводу своей исключительности.

Забавно, как неожиданно и как просто оказалось сделать такой большой шаг. Когда-то людям казалось "Интеллектом" ходить и мыть посуду (вспомните наивные ранние представления о роботах того же Азимова), потом умение играть в шахматы, потом рисовать картины и писать музыку... Забавно, что сейчас для ИИ труднее почистить рандомный свинарник от говна, нежели написать интересный рассказ или портрет.

Очередной кусок человековости отдан машинам и теперь он не считается неотъемлемым признаком человечности. Какой следующий шаг?

ИМХО. Мы просто переплетёмся в неразрывной связи с ИИ так, что не сможем полноценно существовать, как не можем уже сейчас на общецивилизационном уровне без Интернета, электричества, промышленности... ИИ будет нашей внешней рутинной логикой, как книги когда-то стали нашей информационной памятью, интернет стал нашими органами коммуникации, промышленность и сельское хозяйство стали частью нашей пищеварительной системы (я про производимые продукты питания), второй кожей (производимая одежда), синтетической средой обитания (дома и города), нашими ногами и крыльями (транспорт).

Вот дошла очередь до очередных отделов нашего мозга.

Это не корабль Тесея, потому что ему постепенно заменяли части на равнозначные новые. Мы же растём и усложняемся с новыми "имплантами" и эксплантами. Если одна человеческая особь качественно отличается от всей человеческой цивилизации, то эти два понятия нельзя отождествлять, как не отождествить отдельный нейрон со всем мозгом.

Если взять за некую особь всю жизнь на нашей планете, то мы прикольно так прокачались с появлением ИИ, и впереди ещё много интересных возможностей. На таком масштабе ИИ уже не сильно отличается от городов, транспортной сети, промышленности, письменности, коммуникационных сетей по своей сути. Просто ещё один трюк, ещё одна штука которой обзавелась довольно, пока что, тупая и смутно себя осознающая зверушка - Земная Жизнь. Интересно что будет дальше.

С одной стороны это закономерно, ведь чтобы смотреть телек вам не нужно понимать как работают транзисторы в микросхемах и квантовые точки в дисплее. Как модулируется сигнал, как шифруется и передаётся по информационным сетям видеопоток... Для обывателей телевизор - то же самое "яблочко на тарелочке", которое катится и показывает что попросили. Иногда аналогия пугающе буквальна, если вспомнить приставку-Алису. Такая же колонка как гусли-самогуды стоит на полочке и включает песни по первому требованию, а если сказать простое заклинание, то станет светло или прохладно.

Допустим появились художники с iPad'ами, планшетами с "чудесными" бесконтактными 3д-перьями для рисования... Они пользуются и не знают как технически устроена вся эта "магия" их внутреннего устройства и принципы работы. Им и не надо. Однако вот очередь дошла и до программистов! Сперва они разучились понимать как на самом деле биты и байты беают по "железу" в гарвардской или оксфордской архитектуре программируемых ими компьютеров. Им теперь нет нужды что-то понимать в регистрах процессора, стеке вызовов, прерываниях, страницах памяти, адресных шинах, файлах подкачки и прочих деталях внутреннего мира их сложных машин.

Появились абстракции, которые позволили людям не вдаваться в такие детали. Да и поди вникни! Там конвейеры в процессоре, векторные команды, куча оптимизаций, сопроцессоры, блокировки, многоуровневые кэши! Черт ногу сломит! Так что и хорошо, к месту эти уровни абстракции, а технический прогресс даёт возможность нам не вдаваясь в подробности делать сложные внутри, но достаточно простые в реализации и богатые по функциональности штуки. Это здорово!

Но что же меня пугает? Вернее как пугает... настораживает. Не может ли так случиться, что мы одичаем в нашем технологичном и удобном мире с огромным числом сложных многоуровневых абстракций?

Это же та самая проблема сингулярности, которая ещё не вылезла из тумана и, кажется, где-то там нависает. Давно нет ни единого человека, способного понимать всю "поверхность" пузыря постоянно расширяющихся знаний человечества. Даже в узкой области мы вынуждены выпускать из сферы внимания и понимания какие-то слои, детали, чтобы сконцентрироваться на функциональном и важном.

Я не неолуддит. Я сам лично своими идеями, работой, домашними пет-проектами приближаю эту страшную и волнующую сингулярность. Все айтишники это делают, и уже не только айтишники. Мне даже нравится, что наш мир всё больше и больше становится похож на то. как некогда фантасты видели тридесятые королевства в своих фэнтезийных мирах.

У нас стремительно появляются ИскИны, умные дома, методы коммуникации, которые связывают нас с людьми далеко за пределами ограничений числа Данбара.

Однако новые технологии и изменяющийся мир требует, я думаю, и пересмотра системы образования.

Когда мы читаем светлые и воодушевляющие произведения Стругацких про будущее, когда погружаемся в космооперы с технологичными мирами, то всегда там есть люди, которые умны, эрудированны и разбираются в сути вещей и технологий. Как сохранить этот вектор в системе наших идеалов? Как не одичать в удобной утробе технологического мира?

Интересно, сейчас больше или меньше люди разбираются в современных себе технических вопросах (чем раньше)?

Не хотелось бы тренда к одичанию. Вот такие вот переживания.

Ну а по существу

ежели, то LLM в виде чата и не сможет "прочитать" ваш файл без специального на то инструмента. LLM умеет только писать правдоподобные тексты. Правдоподобные и вероятные тексты, которые могли бы встретиться у них в обучающей базе.

Ну то есть хитросплетение нейронных связей настолько "преисполнилось" глубинного и туманного понимания внутренних связей и смысловых зависимостей человеческого языка, что у неё там завелись отдельные понятийные сущности для всяких штук, которые порой и словами трудно выразить, только смыслами немаленьких текстов. Так вот, оно там "преисполнилось", и теперь можно как бы вести беседу, а в указанных местах LLM будет достаточно вероятный и подходящий сюда текст подставлять.

Как ни удивительно, этот текст получается очень осмысленным и часто весьма полезным. Как ни поразительно, но огромное количество ранее неприступных когнитивных задач оказалось возможным решать просто генерируя тексты на тему и около, а потом ещё и ещё, и в конце концов "хоба" у нас, в конце, получается очень релевантный ответ. Магия? Нет, статистика и туева хуча вычислений в транзисторах. Причем в голове человека такие же, похоже, вычисления, только химические и био-электрические.

И как это относится к "чтению файла"? А так! Некому и нечем читать.

Это как с той проблемой, когда нейросеть может рассуждать о сложных выводах из Анны Карениной, но не способна посчитать буквы "р" в слове "клубника"=). Нейросеть не читает.

Тут на помощь приходят специальные агентные системы с тулингом. Они делают мостик между алгоритмическим и вот таким вот "мыслительно"-текстовым. LLM учат "мыслить" терминами "инструментов", то есть функций. Она может "найти" с помощью специальной функции в предлагаемом в виде файла тексте какие-то слова или предложения, и получить результат. Она может "посчитать" (только с помощью алгоритмического инструмента) буквы в какой-то строке. Но всё это она формулирует в терминах (утрирую) "вызываю такую-то функцию с таким-то параметром", а в ответ получает результат.

Вот такой тулинг позволяет LLM ориентироваться в строках, больших текстах, наборах файлов и в чем угодно, но всё это инструменты превращают для LLM в текст (на самом деле в потоки токенов, но это отвлекает от сути). А так как LLM не может оперировать очень большими векторами токенов, то приходится делать много отдельных запросов, минимизировать и уплотнять контекст отсевая второстепенное и оставляя главное, вызывать много тулзов, строить планы, выполнять их по шагам... Это всё не просто и требует много вычислений.

Но! Но для многих это просто магия и кажется, что можно прийти в первый попавшийся чат-бот и удивляться чего он такой тупой, что не может как другой более сложный нейронно-алгоритмический комбайн делать что-то простое и понятное нам мясным мешочкам с костями.

Надо помнить, что, не смотря на все поразительные уже сейчас возможности чат-ботов и языковых моделей, они многотысячекратно проще нашего мозга. Пока что. То ли ещё будет.

Так и живём.

Забавно, но мы даже с едой более разборчивы и аккуратны, нежели с тем, что тянем себе в голову. И в случае еды там есть гемато-энцефаллический барьер, а вот с контентом - нет. Там всё прямиком в идёт без брандмауэров и фильтрации в наш хрупкий и нежный ментальный внутренний мир. Как бы мы себя ни обманывали закалкой и "толстокожестью", крепостью психики, но мы - это то, что мы едим, и природа имела много времени научиться более-менее извлекать полезное из той херни. что мы пихаем в рот. А вот на эффективную фильтрацию и переработку ментальной "пищи" у природы не было столько времени и попыток. Тут всё на "живую нитку". Топим печку своего "я" "по-черному" всяким хламом, а потом, вот, ходим к психологу зализывать "детские травмы", "прорабатывать" всякое, "учиться принимать себя и окружающих"...

И, конечно, это касается не всех. Никого это не касается, если в частности, но поди докажи, что это не касается нашего общества в целом. Говори, мол, за себя, да? Да. Это лишь гипотеза. Мысли вслух о которых меня никто не спрашивал. Ну и что? Поставь свой минус и иди дальше. Но этот вирус в тебе останется. Может быть захочется попробовать что-то новое, да через силу. Может быть вздумается прочитать-таки то, что рано было читать в школьные годы, а пичкали до отторжения. Может быть захочется написать какого-нибудь вот такого унылого дерьма, как вы изволили, я надеюсь, сейчас прочитать. Если так, то не надо. Довольно и моего. Хрен со мной.

А больше всего на свете бесят стукачи, которые сами не ездят нормально, так ещё и норовят ментам заложить нормальных пацанчиков! Съедь на обочину и пережди пока проедет, че ты вякаешь? нет, не на ту обочину, тут я еду, слепой что ли?! По зеркалам научись смотреть! Да сам пошел! Может я спешу! Может у меня парень рожает! Ты не знаешь какие у меня могут быть проблемы по жизни! Может я от ментов скрываюсь, кто тебе дал право меня на видео снимать?! Я разрешения не давал! А ты мой частную жизнь нарушаешь! Съебал, нахер, в ужосе, сука сыкливая! Дрифт ему, сука, не нравится! Ну и что, что ночью? Ну и что, что под окнами! Купи себе виллу, отгородись забором, окна закрой и спи спокойно, а если нищеброд - терпи, можешь за 5 рублей беруши в ухи свои лопоухие вставить, а пацанам не мешай молодостью и жизнью наслаждаться! Мало ли как может статься, может завтра менты повяжут, или пидор какой на дороге подвернётся и не пропустит! Всё! Нет парня! Вот и не осуждай! Сам никогда ничего не делал противозаконного, да? Что, не пиздил мыло в туалете даже? Не воровал стаканчики в кофе-автомате? Ага! Заливай!

Не ваше дело что чоткие пацанчики на дороге творят, слыхали? Менты, сволочи, своими камерами обложили, штрафы эти ублюдские, лишь бы нажиться на нормальных пацанах! До скрежета ненавижу этих мудаков, что на камере дежурят! Вы что, молодыми не были? У вас время лишнее? Ну так сиди дома, не вынуждай тошнить всех на дороге! Ещё эти лежачие, сука, полицаи! Нормально амортизаторы не подпилишь, доски возить! Кому они нужны? Ахаха я их по два за раз пролетаю на скорости! Съели? Подавитесь!

Молчите?! Вот и молчите! И кореша моего не трогайте. Выйдет - снова гонять поедем. Из-за какой-то шмары и её выпердыша на нары загремел! Че он тупит на переходе? Не понмает, что ли, что машину гораздо труднее остановить, чем тушку твою грёбанную?! Учись головой вертеть, или дома сиди! Хорошо разом расплескались по капоту, хоть лечить этих обмудков не пришлось! По ПДД четка сказано, что пешеход имеет право переходить если его ПРОПУСКАЮТ! Кто их пропускал там?! Подождать не могли? А если друган 170 ехал?! Как он остановится перед вашей ебучей зеброй?!

Вот когда штрафы за тупость пешеходов будут такие же как за превышение, тогда пусть выходят дорогу переходить. Сами виноваты. По-хорошему, надо с родственников за ремонт капота бэхи и лобаш с них ссудить! запчасти сейчас не дешевые!

Ух, зла не хватает!

И вот таких вот "уникумов" у нас дохера. Просто помалкивают зачастую.