GPT: насколько похожи стол и любовь?
Мы, люди, мыслим качественно. Нам не сложно понять, что стол и любовь – ну совсем разные понятия. LLM каждое понятие оценивает количественно. Свое время chatGPT 3.5, а в особенности chatGPT-4, потому и стрельнули именно за счёт того, что значительно увеличили многомерность и количество параметров, которое описывает каждый термин. Например, у нас есть нейронная сеть, которая должна определить изображена на фото кошка или собака. У этой нейросети один параметр «кошкособачность», где кошка это 1, собака это минус 1. Если нейронная сеть должна определить сначала живое изображено или неживое, а потом уже кошка это или собака – тогда измерения уже два. И так далее. У современных GPT систем этих измерений миллиарды. И каждое термин, каждое понятие с которыми меня оперирует – этим миллиардом измерений и описаны. Вот и получается что и стол это вектор с миллиардом компонентов, и любовь это вектор с миллиардом компонентов, с ДРУГИМИ значениями. Вот и получается, что GPT системы качественный параметр перевели в количественный, а значит можно посчитать насколько они друг другу близки или друг от друга далеки.
