• Детерминант и что это такое

• Как найти его разными способами

• Попрактикуемся над умножением матриц

БЛОК 0: ПОВТОРЕНИЕ И ПРАКТИКА

В первой части мы разобрали что такое матрица и их виды, а также все операции с ними. Сейчас мы потренируемся над одним из них - умножением.

Вспомним. Матрица может быть задействована в умножении, если количество ее столбцов равно числу строк второй матрицы. Для нашего примера возьмем матрицы 2×3 и 3×2:

Первую матрицу мы делим на строки, вторую на столбцы и вспоминаем второе правило - размерность конечной матрицы С должно быть равно строк 1 матрицы на столбцов второй. Получаем что конечная матрица у нас 2×2. Начинаем перемножать: вспоминаем что первый элемент равен перемножению верхней строки на 1 столбец матриц соотвественно. Давайте чтобы не писать по 100 раз договоримся, что первое действие или что либо я диктую для первой матрицы, и для второй после соответственно.

Итак получаем что элемент с11 равен:

Получаем ответ 16. с11=16 запомнили.

Второй элемент равен произведению верхней строки на второй столбец, значит с12 равен:

Получаем 5. с12=5. Запомнили

Элемент с21 получаем из перемножения нижней строки на первый столбец. Получаем

Получаем ответ 4. с21=4. Запомнили

Элемент с22 равен произведению нижней строки на второй столбец. Получаем

Ответ: 22. с22=22. Запомнили

Теперь просто, не торопясь собираем из 4 элементов матрицу С:

И вот так, мы получили результат перемножения матриц! А теперь попробуйте наоборот: перемножьте В на А, и посмотрите, что получится абсолютно другая матрица 3×3:

И теперь когда мы потренировались с матрицами, перейдем в уроку теории.

БЛОК 1. ДЕТЕРМИНАНТ И ЧТО ЭТО?

Что такое детерминант?

Детерминант - Это число, которое показывает во сколько раз преобразуется любая фигура любой размерности, условно 3д, ее площадь, объем. По другому, это число которое показывает как изменится мир или пространство после работы матрицы. Детерминант называют по другому определитель матрицы.

Главное что знать о нем:

Обозначают его прямыми линиями вместо скобок у матрицы, треугольником перед ней, пишут det А. Я буду писать det A.

Свойства:

1. Если в матрице есть нулевые строка или столбец, det=0. То есть изменение мира не будет.

2. Если две строки или столбца равны друг другу, det=0.

3. Если две строки/столбца пропорциональны, det=0. Пропорциональны всмысле одна строка просто больше другой ровно в два раза, то есть они ничем не отличаются по факту.

4. Если к одной строке прибавить или отнять другую, перемножить на какое либо число, детерминант не изменится.

5. Если поменять местами две строки, что называют рокировкой, детерминант поменяет знак на противоположный.

6. Общий множитель строки можно вынести за знак det.

Для чего это нужно?

• Проверить существование обратной матрицы

• Решить систему уравнений

• Найти обьем фигуры.

И теперь мы научимся находить его:

Для матрицы 2×2 есть быстрое решение крест-накрест:

А вот для матрицы 3+ порядка все посложней...

Возьмем матрицу:

1 способ: метод треугольников, или метод Саррюса.

Самый популярный геометрический способ для матриц третьего порядка. Мы мысленно строим треугольники и диагонали прямо на матрице.

• С плюсом (+) перемножаются элементы на главной диагонали, а также элементы в вершинах двух треугольников, чьи основания параллельны этой диагонали.

• С минусом (-) перемножаются элементы на побочной диагонали и элементы в вершинах треугольников, параллельных ей.

Вот наглядная схема

И вот мы помним нашу матрицу, и теперь разберем ее:

• Плюсы: (2 *(-1) *3) + (3 *5 *1) + (4 *2 *1) = -6 + 15 + 8 = 17

• Минусы: (1 *(-1) *1) + (3 *4 *3) + (2 *5 *2) = -1 + 36 + 20 = 55

det A=17-55=-38

Способ 2. Метод дописывания столбцов (Вторая вариация правила Саррюса)

Если в треугольниках легко запутаться, используют этот метод. Справа от исходной матрицы мы просто дублируем её первые два столбца:

Теперь определитель считается строго по прямым линиям:

• С плюсом (+) идут произведения по трем главным диагоналям (сверху вниз, слева направо).

• С минусом (-) идут произведения по трем побочным диагоналям (снизу вверх, слева направо).

Считаем наш пример:

• Диагонали вниз (+): (2*(-1)*3) + (3*5*1) + (1*4*2) = -6 + 15 + 8 = 17

• Диагонали вверх (-): (1*(-1)*1) + (2*5*2) + (3*4*3) = -1 + 20 + 36 = 55

det A=17-55=-38

Способ 3. Разложение по строке или столбцу (Теорема Лапласа / Метод миноров)

Самый мощный и фундаментальный метод. Он хорош тем, что работает для матриц абсолютно любого размера хоть 5×5, хоть 10×10, раскладывая их на матрицы меньшего порядка.

Мы можем выбрать любую строку или любой столбец матрицы. Элементы этой строки умножаются на свои алгебраические дополнения (миноры с учетом шахматного знака). Выгодно выбирать строку, где есть нули, но в нашем примере нулей нет, поэтому разложим по первой строке (элементы 2, 3, 1).

Но сначала, что такое минор и алгебраические дополнения?

• Минором M_ij элемента a_ij определителя n-го порядка называется определитель n-1 -го порядка, полученный из исходного путем вычеркивания i-й строки и j-го столбца, на пересечении которых находится данный элемент.

• Алгебраическим дополнением A_ij элемента a_ij называется его минор, взятый со знаком -1^i+j, где i - номер строки, а j - номер столбца данного элемента:

A_ij=(-1)^i+j*M_ij

Знаки элементов при разложении чередуются в шахматном порядке:

Но есть вариант и с записью:

A_ij=(-1)^i+j*M_ij

Считаем наш пример:

1. Элемент 2 (стоит на позиции с знаком +). Вычеркиваем его строку и столбец, остается минор 2×2:

Получаем -26.

Элемент 3 (стоит на позиции со знаком -). Вычеркиваем его строку и столбец:

Получаем -21.

Элемент 1 (стоит на позиции со знаком +). Вычеркиваем его строку и столбец:

Получаем 9.

Складываем:

(-26) + (-21) + 9 = -38. И опять наш детерминант равен -38.

Мы разобрали все способы, кроме Гаусса. Гаусса мы разберем в следующем выпуске. Пока затронем ранг матрицы:

Ранг матрицы:

В линейной алгебре ранг матрицы (rank,rang,r, rk, rg A) - это, если говорить совсем просто, количество её истинных, независимых строк или столбцов. Он показывает, сколько в матрице содержится реальной, не дублирующей друг друга информации.

Как его найти:

• Ранг по строкам равен рангу по столбцам. Неважно, как ты считаешь - по горизонтали или по вертикали, число всегда будет одним и тем же rankA = rankA^T

• Ограничение по размеру. Ранг матрицы не может быть больше, чем её меньшая размерность. Если у тебя матрица размером 3×5, её ранг физически не может быть равен 4 или 5. Максимум - 3.

• Ранг нулевой матрицы всегда равен 0.

• Ранг не меняется от элементарных преобразований. Это главное свойство для вычислений. Ты можешь менять строки местами, умножать их на числа и прибавлять друг к другу - ранг останется прежним.

Ну, а как его находить мы разберем в следующих частях. Надеюсь, вам все понравилось и я буду рад лайку. У меня в профиле есть много чего интересного, и если вы хотите меня поддержать, я собираю на книгу по квантовой механике и буду рад вашей помощи. Спасибо что читаете, всем удачи и добра!

Всем привет! 👋 Сделал инструмент, который быстро преобразует любые изображения в векторные. Всё работает локально в браузере — ваши изображения остаются приватными и не отправляются ни на какой сервер.

Основное применение — простые изображения и логотипы, но работает и со сложными изображениями.

PS: Сейчас я активно развиваю векторизатор, и мне важно собрать ваши отзывы и предложения по улучшению! 💬

Если говорить совсем просто: вектор - это массив чисел, который указывает куда и на сколько единиц надо двигаться от начала координат по n-мерному пространству.

Ладно, давайте разберем это на примере. Например, у нас есть начало координат — (0; 0; 0) в трёхмерном пространстве и вектор [2; 5; -1]. Если придерживаться определения выше, то мы должны "сдвинуть" начальные координаты на такие-то определённые числа из вектора. Важно помнить, что позиции тут очень важны — число на позиции 0 (X) нельзя прибавить к позиции 2 (Z) из начальных координат. То есть надо строго придерживаться правила: "Каждый сдвиг оси из вектора должен складываться или вычитаться строго из координат этой же оси из начальных координат". Если же мы все правильно сдвинем, то мы получим координату: ((0+2); (0+5); (0+(-1))) = (2;5;-1).

Так как мы разбираем в основном нейросети, то дальше я буду иметь ввиду координаты самой точки под определением "вектор". В нейросетях чаще всего вектор - координаты какой-то точки, или сущности.

Еще бы хотел добавить - на практике большая часть не превращает вектор в нейросетях в какую-то точку и вовсе не воспринимает этот вектор как координаты точки. В основном, это просто результат выполнения математической операции либо с участием веса, либо без. Точка - это что-то на научном.

N-мерное пространство.

Мы живем в трех мерном пространстве (XYZ). А какая ось добавляется в 4-мерном пространстве?

Я немного почитал и пришел к выводу, что в четвертом пространстве добавляется новая ось - T (Time). Если в трехмерном пространстве мы двигаемся по времени только вперед, то в четырехмерном мы можем двигаться по этой оси вперед-назад.

Далее, я почитал про пятимерное пространство и пришел к выводу, что в пятимерном пространстве мы поверх оси T (Time) получаем ось M (Moment). То-есть, мы получаем возможность и двигать время вперед-назад и создавать сразу несколько вариаций этого момента параллельно в это же время (по оси M).

Логически решил продолжить эту цепочку, и получил следующее предположение: А вдруг дальше (6D, 7D, ..., ND) мы просто создаем новые оси T и M внутри прошлых осей M? Звучит очень запутанно, но я попробую объяснить. Давайте представим 4-мерное пространство, где мы можем управлять временем (двигать назад-вперед) благодаря оси T, но не можем управлять судьбой. А в пятимерном пространстве мы это делать можем благодаря оси M. А вдруг, в этой оси M еще есть своя ось T, в которой есть еще одна своя ось M и так n раз? А вдруг сейчас вы существуете сразу в нескольких версиях себя?

Еще у меня есть предположение, что единой "точки" в 4+-мерных пространствах просто нет. Например, какая-нибудь кривая.

На эти вопросы очень трудно ответить, так как недостаточно информации. Но просто, как частичная гипотеза - сойдет.

Итоги.

В этом посте я попытался поднести вам свою точку зрения и идею того, как устроена N-мерность. Я понимаю, что это все не доказанно. Но это просто точка зрения.

Представьте классическую географическую карту. У каждого города есть широта и долгота. Населенные пункты с похожими координатами находятся рядом. В языковых моделях используется аналогичный принцип, только координат не две, а несколько тысяч.

Каждая из координат отвечает за определенный скрытый признак объекта. Примерами таких признаков могут быть размер, одушевленность, отношение к пище или технике. Слово "яблоко" получит высокие значения по шкале еды и низкие по шкале механизмов. У слова "смартфон" значения будут противоположными.

Таким образом формируется гигантское многомерное пространство смыслов. В этом пространстве понятия "кот" и "собака" располагаются близко друг к другу, а понятие "кирпич" находится на огромном отдалении от них.

2. Математика смыслов

Главное преимущество такого подхода заключается в возможности совершать математические операции со значениями слов.

В сфере машинного обучения есть классический пример. Если взять координаты слова "Король", вычесть из них координаты слова "Мужчина" и прибавить координаты слова "Женщина", итоговый результат укажет точно на координаты слова "Королева".

Программа не размышляет человеческими категориями. Она вычисляет геометрические расстояния между точками в заданном пространстве.

3. Проблема многозначности и механизм внимания

С однозначными терминами система работает безошибочно. Но возникает проблема многозначных слов. Слово "коса" может обозначать прическу, сельскохозяйственный инструмент или песчаную отмель. Куда именно поместить точку на карте смыслов?

Решение этой проблемы в 2017 году привело к созданию современных языковых моделей. Был разработан механизм внимания.

Принцип его работы заключается в следующем. Когда алгоритм анализирует предложение "Девушка заплела длинную косу", он не рассматривает слово "коса" изолированно. Глагол "заплела" автоматически смещает координаты существительного в сторону понятий, связанных с волосами и прическами.

Если же фраза звучит как "Рыбак вышел на песчаную косу", соседние слова мгновенно сдвигают координаты в область географии и водоемов. Смысловое значение слова формируется динамически, опираясь исключительно на его текстовое окружение.

4. Процесс генерации текста

Процесс создания осмысленного ответа включает в себя строгую последовательность вычислений:

1. Система переводит исходный запрос пользователя в набор числовых координат.

2. Используя механизм внимания она корректирует значения всех элементов с учетом контекста.

3. Алгоритм вычисляет какая точка в смысловом пространстве имеет самую высокую математическую вероятность стать логичным продолжением фразы.

4. Найденные координаты трансформируются обратно в понятное человеку слово.

5. Это слово добавляется к общему тексту после чего весь цикл вычислений повторяется заново.

Каждое сгенерированное слово является результатом миллионов сложнейших геометрических расчетов.

Заключение

В основе работы нейросетей нет зачатков сознания. Это масштабная и математически выверенная система координат где миллиарды смысловых оттенков связаны между собой точными числовыми значениями.

Если данная тема показалась вам интересной в следующих публикациях можно будет подробно разобрать процесс создания изображений из цифрового шума. Буду рад прочитать ваши мнения в комментариях