СРАВНЕНИЕ ИИ И МОЗГА. ВОЗМОЖНО?⁠⁠

Представьте два объекта.

Первый весит около полутора килограммов, помещается в человеческом черепе, потребляет примерно столько энергии, сколько небольшая лампа, и состоит из живых клеток.

Второй может занимать целые стойки вычислительного оборудования, работать на тысячах специализированных ускорителей и требовать для обучения огромных вычислительных ресурсов.

Первый — человеческий мозг. Второй — большая модель искусственного интеллекта.

Они сделаны из совершенно разного материала, но решают удивительно похожую задачу: получают информацию, находят в ней закономерности, используют накопленный опыт и на его основе выдают результат.

Поэтому сравнивать их не только возможно — это один из лучших способов понять, что вообще делает современный ИИ.

В мозге нет главного процессора

Нам удобно представлять мышление примерно так: где-то внутри головы сидит центральный процессор. Он получает информацию от глаз и ушей, думает, принимает решение и рассылает команды остальному мозгу.

Такого процессора нет.

Мозг состоит примерно из 86 миллиардов нейронов. Каждый нейрон — живая клетка, которая принимает сигналы от других клеток, изменяет своё состояние и передаёт сигналы дальше.

Между нейронами существуют синапсы. Их число оценивается в десятки и сотни триллионов.

И вот что интересно.

Ни один отдельный нейрон не знает, что такое Париж, ни один не хранит целиком лицо вашей матери.

Нет специальной клетки для числа семь, запаха кофе или ощущения, когда вы внезапно вспоминаете, что забыли выключить утюг.

Информация распределена.

Когда вы узнаёте знакомого человека, вспоминаете песню или заканчиваете чужую фразу, работает большая сеть клеток.

Память, навыки и знания заключены не в одном месте, а в организации всей системы.

Большая ИИ-модель устроена по тому же общему принципу.

Вместо биологических нейронов — математические операции. Вместо синапсов — параметры, или веса.

Во время обучения модель снова и снова пытается предсказывать правильное продолжение, ошибается, после чего её параметры корректируются.

Так постепенно возникает огромная сеть связей, в которой распределены знания о языке, фактах, стилях, программировании и множестве других закономерностей.

Внутри неё нет файла:

Париж → столица Франции.

Как и мозг, модель знает это благодаря состоянию огромной сети.

Сколько «параметров» у мозга?

Если грубо взять синапсы как аналог параметров ИИ-модели, человеческий мозг окажется системой масштаба десятков или сотен триллионов связей.

И это уже интересное сравнение.

Крупные ИИ-модели обладают огромным количеством параметров, а мозг обладает ещё более огромным количеством изменяемых соединений.

При этом количество связей само по себе не определяет интеллект человека.

Условной таблицы

глупый — 50 триллионов,
средний — 100 триллионов,
гений — 200 триллионов

не существует.

Мозги разных людей находятся примерно в одном биологическом масштабе. Разница в способностях возникает из архитектуры и организации нейронных сетей, развития, опыта, обучения и того, насколько эффективно разные системы мозга работают вместе.

И здесь появляется хорошая параллель с ИИ:

интеллект — это не просто количество параметров. Важно, что система научилась делать с этими параметрами.

Ваш мозг прямо сейчас меняется

Есть вещь, которую человеческий мозг делает прямо во время чтения этой статьи.

Он обучается.

Прямо сейчас. Пока вы читаете эту строку.

Новый опыт меняет активность нейронных сетей. Существующие связи могут усиливаться или ослабевать, формируются новые ассоциации.

Хотите почувствовать работу уже обученного мозга?

Попробуйте не читать следующую строку.

НЕ ЧИТАЙТЕ ЭТИ СЛОВА.

Не получилось.

Когда-то эти символы действительно были для вас просто линиями.

Потом мозг много лет учился превращать их в звуки, слова и смысл.

А теперь процесс запускается настолько автоматически, что остановить его волевым усилием почти невозможно.

И прямо сейчас происходит следующий слой обучения: информация из этой статьи соединяется с тем, что вы уже знали о мозге, компьютерах и ИИ.

Получается почти буквальный фокус:

вы читаете текст о том, как обучение меняет мозг, — и в этот же момент текст меняет состояние вашего мозга.

У ИИ есть контекстное окно. У человека — тоже?

Когда вы разговариваете с большой языковой моделью, она работает не со всей информацией мира одновременно.

У неё есть контекстное окно — объём информации, который доступен ей прямо сейчас.

Представьте огромный письменный стол.

Всё, что лежит на столе, модель видит и может сопоставлять между собой: ваш последний вопрос, начало разговора, документ, инструкции, предыдущие ответы.

У человека есть очень похожее ограничение.

Вы тоже не способны одновременно держать в активном сознании всё, что знаете.

Пока вы читаете этот абзац, в голове находится смысл текущей фразы, часть предыдущей мысли и несколько связанных идей.

Это рабочая память — человеческий аналог активного контекста.

И вот здесь сравнение становится особенно интересным.

У большой модели контекстное окно огромно, но пассивно.
У человека активное окно маленькое, зато за ним стоит долговременная память.

Модель может получить сразу гигантский документ и работать с ним целиком в рамках доступного контекста.

Человек так не может. Мы читаем страницу за страницей, постоянно теряем детали из рабочей памяти.

Зато мозг делает другую вещь: он сжимает информацию.

После прочтения книги вы не храните в сознании все её предложения.

Остаются смысл, образы, выводы, связи с другими знаниями.

Человек забывает почти весь исходный текст — и сохраняет его структуру.

В этом смысле наша память работает не как огромный текстовый буфер, а как постоянно перестраивающаяся модель мира.

ИИ-модель, наоборот, способна удерживать в текущем контексте огромное количество точного текста.

Получается парадокс:

у ИИ намного больше активный «стол»,
у человека намного сложнее то, что происходит с информацией после того, как она со стола исчезла.

Главное различие — когда происходит обучение

У человека работа и обучение идут одновременно.

Вы разговариваете — и учитесь.

Читаете — и учитесь.

Ошибаетесь — и учитесь.

Мозг постоянно перестраивается под новый опыт.

У большой модели эти процессы обычно разделены:

Во время обучения изменяются её параметры.
Во время обычного разговора модель использует уже полученные параметры и информацию из контекстного окна.

То есть человек во время разговора способен немного изменить саму систему.

ИИ в первую очередь изменяет текущее состояние вычисления.

Это фундаментальная разница.

Двадцать ватт против огромной вычислительной системы

Теперь самое впечатляющее сравнение.

Человеческий мозг потребляет порядка 20 ватт. Это примерно небольшая лампа.

На этой мощности он одновременно видит, слышит, управляет телом, понимает речь, узнаёт людей, достаёт воспоминания, принимает решения и учится.

Большие ИИ-модели используют совершенно другой путь.

Их сила строится на огромной скорости цифровых вычислений и возможности запускать специализированные процессоры параллельно.

Мозг значительно медленнее на уровне отдельных элементов.

Компьютер за долю секунды перемножит числа, над которыми человек будет мучиться с калькулятором.

Зато мозг чрезвычайно эффективно работает с физическим миром.

Человек входит в незнакомую комнату и мгновенно понимает: это стол, это дверь, сюда можно сесть, этот предмет можно взять, а вот в эту стену лучше не идти.

Мозг и ИИ просто расходуют свои ресурсы по-разному.

Мозг выигрывает невероятной энергоэффективностью и постоянным обучением.
ИИ — скоростью, масштабом вычислений и объёмом одновременно обрабатываемой информации.

Так возможно ли сравнение ИИ и мозга?

Да, ИИ и мозг можно сравнивать.

Не потому, что ИИ — искусственный человеческий мозг.

А потому, что человечество независимо построило другую систему, которая пришла к нескольким тем же фундаментальным идеям: распределённым знаниям, обучаемым связям, ограниченному активному контексту и сложному поведению, возникающему из работы огромной сети.

Мы не скопировали мозг. Мы пришли к некоторым его принципам другим путём.