Представьте классическую географическую карту. У каждого города есть широта и долгота. Населенные пункты с похожими координатами находятся рядом. В языковых моделях используется аналогичный принцип, только координат не две, а несколько тысяч.

Каждая из координат отвечает за определенный скрытый признак объекта. Примерами таких признаков могут быть размер, одушевленность, отношение к пище или технике. Слово "яблоко" получит высокие значения по шкале еды и низкие по шкале механизмов. У слова "смартфон" значения будут противоположными.

Таким образом формируется гигантское многомерное пространство смыслов. В этом пространстве понятия "кот" и "собака" располагаются близко друг к другу, а понятие "кирпич" находится на огромном отдалении от них.

2. Математика смыслов

Главное преимущество такого подхода заключается в возможности совершать математические операции со значениями слов.

В сфере машинного обучения есть классический пример. Если взять координаты слова "Король", вычесть из них координаты слова "Мужчина" и прибавить координаты слова "Женщина", итоговый результат укажет точно на координаты слова "Королева".

Программа не размышляет человеческими категориями. Она вычисляет геометрические расстояния между точками в заданном пространстве.

3. Проблема многозначности и механизм внимания

С однозначными терминами система работает безошибочно. Но возникает проблема многозначных слов. Слово "коса" может обозначать прическу, сельскохозяйственный инструмент или песчаную отмель. Куда именно поместить точку на карте смыслов?

Решение этой проблемы в 2017 году привело к созданию современных языковых моделей. Был разработан механизм внимания.

Принцип его работы заключается в следующем. Когда алгоритм анализирует предложение "Девушка заплела длинную косу", он не рассматривает слово "коса" изолированно. Глагол "заплела" автоматически смещает координаты существительного в сторону понятий, связанных с волосами и прическами.

Если же фраза звучит как "Рыбак вышел на песчаную косу", соседние слова мгновенно сдвигают координаты в область географии и водоемов. Смысловое значение слова формируется динамически, опираясь исключительно на его текстовое окружение.

4. Процесс генерации текста

Процесс создания осмысленного ответа включает в себя строгую последовательность вычислений:

1. Система переводит исходный запрос пользователя в набор числовых координат.

2. Используя механизм внимания она корректирует значения всех элементов с учетом контекста.

3. Алгоритм вычисляет какая точка в смысловом пространстве имеет самую высокую математическую вероятность стать логичным продолжением фразы.

4. Найденные координаты трансформируются обратно в понятное человеку слово.

5. Это слово добавляется к общему тексту после чего весь цикл вычислений повторяется заново.

Каждое сгенерированное слово является результатом миллионов сложнейших геометрических расчетов.

Заключение

В основе работы нейросетей нет зачатков сознания. Это масштабная и математически выверенная система координат где миллиарды смысловых оттенков связаны между собой точными числовыми значениями.

Если данная тема показалась вам интересной в следующих публикациях можно будет подробно разобрать процесс создания изображений из цифрового шума. Буду рад прочитать ваши мнения в комментариях

В приёмнике меня посадили просто на лавку в коридоре, мимо ходили врачи и больные, никто из них не был в тех костюмах, что мы видели во времена ковида, что меня удивляло, т.к. я уже знал про "марбургский вирус" и инциденты на территории новосибирского же НПО "Вектор" с ним (вкратце - работа с вирусом Эболы пару раз заканчивалась смертью исследователей из-за нарушения ТБ, хоронили их в свинцовых саркофагах и заливали бетоном, чтоб не допустить выхода вируса). На врачах и больных даже масок не было - оно и понятно, большинство больных тогда были наркоманы с гепатитами и ВИЧами, да описторхозные любители речной новосибирской рыбы. Но всё же - я же предупредил и по телефону, и сказал врачу в скорой, и врачам в приёмнике инфекционки, что могу являться носителем эболы или другой геморрагии - почему никто не воспринял это всерьёз?

Первые несколько часов прошли в анализах. Анализы брали разные, в т.ч. "толстая капля" - до внедрения ПЦР оставалось... долго еще, в-общем, оставалось. Суть метода - вашу кровь из пальца размазывают по стёклышку и специалист сидит и натурально считает плазмодиев в окуляре микроскопа. В это время мне было очень нехорошо, зрение было уже туннельным, бил озноб, переходящий в жаришку, звуки, какие-то вспышки, очень сильная слабость (смешной каламбур, но мне было не смешно). Наконец-то результат - малярия тропическая plasmodium falciparum, добро пожаловать на заселение. Ну хоть не эбола!

Началось лечение. Лечение заключалось в приёме препарата фансидар и кучи сопутствующих препаратов - гепатопротекторы (печень реально разбухла настолько, что её можно было увидеть(!) даже без пальпации) и еще целая мензурка таблеток - сейчас я уже не вспомню все их названия, с омепразолом для защиты уже желудка от всей этой химии. Кроме того, постоянно брали на анализ кровь из пальца и ставили капельницы с физраствором, т.к. потеря влаги во время приступов была чудовищная.

Проблема была в том, что тропическая малярия давным давно устойчива к фансидару, то есть лечения фактически малярии не было, и число плазмодиев в организме только нарастало. Периоды горячки сменялись периодами обмерзания, я их называл "качелями" - то вам жарко-прежарко, вы открываете окно в палате и мажетесь снегом с подоконника, а через часик вам уже настолько холодно, что вы лежите во всей одежде под всеми одеялами палаты (палата была двухместная, но я лежал один) и дрожите от холода.

Вы дрожите от холода, но с вас стекают просто литры пота, поэтому мне постоянно лили физраствор по вене. В результате катетер в момент трясучки выворачивало и так я потерял вены на локтях - игла вылетала из вены, надувало огромный пузырь, вена пряталась, после чего медсестра переставляла катетер в другую вену и пыталась понадежнее его замотать пластырем (не помогало, т.к. пот всё равно делал пластырь скользящим). После локтевых перешли на запястные вены, а потом и на тыльные кистевые. Там уже руку привязывали к кровати.

Кроме того, пальцы, истыканные иголками по нескольку раз, отказывались давать кровь для "толстой капли". Реально, все десять пальцев на руках были настолько забиты тромбоцитами, что при очередном уколе не выдавали ни капельки крови, и медсестрам приходилось выжимать, "доить" пальцы, чтобы получить хоть что-то на анализ.

В один из моментов, когда я набирал снег за окном, я поймал себя на мысли, что внизу как раз почистили снег и подо мной отличная твёрдая асфальтовая отмостка здания, и как будет чудесно нырнуть туда головой и прекратить все эти мучения раз и навсегда. Испугавшись своих мыслей, я отпрянул от окна, и тут мозг в стрессе вспомнил, что когда-то я привозил из своих экспедиций коартем.

Я сказал врачу, что у меня есть коартем, правда, очень давно просроченный - на 4-5 лет после окончания срока годности, и что надо переводить лечение на него, т.к. от фансидара не было никакого толку и мне становилось только хуже. Также я поделился суицидальными мыслями. Но врач отнёсся к этой идее очень плохо - мне так и сказали: "Мы вас лечим по медстандарту. Если вы умрёте, принимая фансидар - ну что ж, такое бывает, никто не вечен. Но если я вам предпишу коартем, который в РФ вообще не считается лекарством, т.к. не проходил дорогостоящих процедур регистрации и с вами что-нибудь случится - то меня накажут." А еще из окна в палате вытащили ручку и я лишился возможности мазаться снегом (как будто это остановило бы броситься через стекло своими 100+ килограммами).

Я попросил друзей найти "свежий" коартем, но в Новосибирске его не было, ближайший был в Москве (нелегально привозят такие же путешественники, а потом продают в интернете), но там надо было ждать еще несколько дней, пока человек дойдёт до транспортной компании, несколько дней доставки и окончательно мне этот кортем доставят в палату где-то через неделю. Я подумал, что еще неделю просто не выдержу (асфальт так и стоял перед глазами) и в этот же день начал принимать свой просроченный коартем, выбрасывая в унитаз таблетки фансидара.

И о чудо - уже на следующий день расплодившиеся плазмодии пошли вниз! Три дня (курс лечения коартемом) и количество плазмодиев стало равным нулю. Ко мне начали ходить врачи из других отделений, посмотреть на "чудесное выздоровление после столь серьёзного ухудшения с неутешительным прогнозом". Потом начали водить группы студентов из медакадемии. Еще несколько дней я лежал с нулевыми плазмодиями, там вроде должно было быть три контрольных дня, но меня продержали дольше, видимо, не понимали, как это возможно. И наконец выписали.

С тех пор я чист, в печени ничего не осталось (кроме гепатоза, но там целый ряд причин, трезвенником я никогда не был) и всегда за границей покупаю таблетки коартема, чтобы у меня всегда были непросроченные.