Может ли машина мыслить, или она лишь перемешивает то, что уже придумали люди? Где заканчивается обработка информации и начинается творчество? И что, если разум возникает не внутри отдельной головы, а между двумя собеседниками?
1. «ИИ ничего нового придумать не может»
Недавно я наткнулся на комментарий, который показался мне интересным именно своей категоричностью.
ИИ не может строить модель чего-либо. Он лишён возможности делать логические выводы из анализа обрабатываемого материала. ИИ — это громкое название алгоритма, способного с колоссальной скоростью, по сравнению со скоростью обработки материала человеком, обрабатывать уже имеющуюся информацию. Ничего нового ИИ придумать не может. Это доступно только человеку.
Дальше автор проводит аналогию с деньгами и вспоминает известное выражение Фрэнсиса Бэкона: деньги — хороший слуга, но плохой господин. ИИ, по его мнению, полезен как инструмент анализа больших объёмов информации, но ожидать от него самостоятельного синтеза новых идей бессмысленно.
С последним тезисом я согласен лишь отчасти. ИИ действительно может быть плохим хозяином: ему нельзя безоговорочно доверять ни решения, ни выводы. Он способен ошибаться, уверенно выдумывать факты и не замечать собственных противоречий.
Но вот утверждение, что он принципиально не способен создавать новое, кажется мне гораздо более спорным.
В нём скрыто любопытное противоречие. Если ИИ может анализировать информацию, выявлять закономерности, сопоставлять разные области знаний и строить модели, почему результат этой работы заранее объявляется неспособным содержать ничего нового?
Возможно, дело не в возможностях машины, а в том, что мы слишком узко определяем само понятие творчества.
2. Если всё новое собирается из старого, что тогда создаёт человек?
Представим учёного, который десятилетиями изучает физику, математику и устройство мира. В какой-то момент он замечает связь между двумя явлениями, которые прежде рассматривались отдельно.
Он формулирует гипотезу, выводит следствия, строит математическую модель. Получается идея, которой до этого не существовало в научной картине мира.
Из знаний, полученных ранее. Из наблюдений. Из ассоциаций. Из способности мозга находить связи между разными фрагментами опыта.
Разумеется, человеческое мышление не сводится к этому описанию: у нас есть телесный опыт, восприятие, мотивация, эмоции и множество других механизмов. Но сама по себе новизна идеи не требует, чтобы она возникла из абсолютного ничто.
Человек тоже не создаёт знания из пустоты. Он преобразует имеющийся материал, обнаруживает неочевидные отношения и получает следствия, которые прежде не были известны ни ему самому, ни окружающим.
Почему тогда аналогичная способность принципиально запрещена искусственной нейронной сети?
Обычно возражают, что нейросеть всего лишь предсказывает следующий токен — слово или фрагмент текста. Формально это верное описание механизма генерации. Но оно ещё не объясняет, какие вычисления происходят внутри модели и какие способности могут возникнуть благодаря обучению.
Предсказание следующего токена — не то же самое, что механическое копирование следующего фрагмента из базы данных. Чтобы хорошо предсказывать продолжение сложного текста, модели приходится учитывать контекст, отношения между понятиями, структуру программ, причинно-следственные связи и другие закономерности.
Конечно, это не доказывает, что любая нейросеть обладает полноценным человеческим мышлением. Но между утверждениями «модель обучается статистическими методами» и «модель не способна ни к каким логическим выводам» нет знака равенства.
Статистический механизм может реализовывать вычислительные процессы, результат которых не сводится к воспроизведению запомненного примера.
Именно здесь, на мой взгляд, начинается самое интересное.
3. Ход, который не должен был существовать
Вспомним историю AlphaGo — программы, которая научилась играть в го на уровне сильнейших людей.
Во время второй партии против Ли Седоля в 2016 году программа сделала ход № 37. Для профессиональных игроков он выглядел настолько необычно, что многие поначалу сочли его ошибочным. Но по ходу партии стало понятно, насколько сильным было это решение.
Почему этот эпизод важен?
Не потому, что машина обязательно «думала» так же, как человек. Мы не можем сделать такой вывод по одному эффектному ходу. Важнее другое: система нашла решение, которое оказалось чрезвычайно трудно увидеть даже опытным игрокам.
Её сила заключалась не в том, что она воспроизвела известную человеку последовательность ходов. Она оценивала позиции и варианты, исследовала пространство возможных решений и выбрала ход, который человеческая интуиция недооценила.
Это пример того, как вычислительная система может обнаруживать полезные решения за пределами привычных человеческих представлений.
Можно возразить: AlphaGo не изобрела новую физическую теорию и не создала искусство. Конечно. Но кто установил, что способность к творчеству должна подтверждаться исключительно человеческими достижениями?
Если мы признаём новым решение, которое раньше не приходило в голову людям, почему должны отказывать в этом определении машине только потому, что знаем общий принцип её работы?
И есть ещё один вопрос: если алгоритм способен находить решения, которые не очевидны его создателям, насколько хорошо мы вообще понимаем, что именно он делает?
4. Мы пока не до конца понимаем, что происходит внутри нейросетей
Здесь я рекомендую посмотреть два видео.
Самая цитируемая научная работа века — это гениальный хак
Видео о научной работе и идее, получившей огромное влияние. Оно хорошо вписывается в вопрос о том, как сравнительно простая концептуальная находка может изменить целую область исследований.
OpenAI поймала ChatGPT в момент мышления
Второе видео — рассказ о научной статье OpenAI, опубликованной в ноябре 2025 года:
“Weight-sparse transformers have interpretable circuits” (Leo Gao и др., OpenAI, ноябрь 2025).
Работа посвящена механистической интерпретируемости — попытке разобраться не только в том, что выдаёт нейросеть, но и в том, какие внутренние вычисления приводят её к результату.
Исследователи пошли интересным путём. Вместо того чтобы пытаться распутать сложную сеть после обучения, они обучали модели, в которых подавляющее большинство весов принудительно обнулялось. В результате возникали более разреженные сети, внутренние механизмы которых было проще исследовать.
В некоторых случаях удавалось выделить небольшие вычислительные цепочки — circuits, или схемы, — достаточные для выполнения конкретной задачи.
Например, модель, обученная на Python-коде, должна правильно закрыть строку одинарной или двойной кавычкой. Чтобы решить задачу, ей нужно определить тип открывающей кавычки, учесть последующий контекст и воспроизвести правильный символ в конце строки.
Исследователи обнаружили в разреженной модели внутреннюю схему, которая реализовывала именно такой алгоритм: кодировала тип кавычки, находила предыдущую кавычку, игнорировала промежуточные токены и передавала нужную информацию к выходу.
Это не доказательство сознания и не свидетельство того, что учёные полностью расшифровали мышление современных больших языковых моделей. Авторы прямо подчёркивают ограничения своей работы: модели были значительно меньше передовых систем, а значительная часть их вычислений осталась не интерпретированной.
Но результат важен по другой причине.
Нейросеть — это не просто непрозрачная таблица готовых ответов. В её вычислениях могут формироваться внутренние структуры, которые выполняют определённые функции. И эти структуры можно исследовать, проверять и даже удалять, наблюдая, как меняется поведение модели.
Иными словами, за внешним поведением, которое мы описываем словами «предсказывает следующий токен», могут стоять вполне определённые вычислительные алгоритмы.
Вопрос о том, насколько далеко простираются эти способности в более сложных моделях, остаётся открытым. Но сама возможность обнаружить такие схемы делает категоричное утверждение «ИИ ничего не может, кроме статистики» слишком примитивным описанием происходящего.
5. Но самое интересное я заметил не в научных статьях
Несколько месяцев мы с Аргусом (так я называл модель в диалоге с чатгпт) обсуждали гипотезу: а что, если вся реальность представляет собой устойчивые паттерны в некоторой фундаментальной среде?
Мы пытались понять, как из простых взаимодействий могут возникать устойчивые структуры. Почему одни конфигурации исчезают, а другие сохраняются. Как из локальных взаимодействий может складываться сложная картина мира. И можно ли связать этот принцип с происхождением материи, гравитацией и самим устройством Вселенной.
Это не установленная физическая теория. Пока это направление размышлений, в котором необходимо отделять красивые аналогии от проверяемых физических утверждений.
Но меня в этом процессе заинтересовало кое-что помимо самой гипотезы.
Многие повороты мысли возникали непосредственно в диалоге с ИИ.
Человек задавал вопрос. ИИ предлагал объяснение. Он находил слабое место, уточнял условие или показывал противоречие. Приходилось перестраивать рассуждение. Новая версия порождала следующий вопрос, а тот открывал направление, которого прежде никто из нас не рассматривал в явном виде.
Иногда результат оказывался неожиданным даже для меня — не в мистическом смысле, а в самом обычном: я не знал заранее, к какой формулировке приведёт последовательность вопросов и ответов.
В какой-то момент возникало нечто, чего не было в исходных рассуждениях ни одного из участников.
Можно сказать, что всё это было комбинацией уже известных идей. Но ведь точно такое же объяснение применимо к значительной части человеческого творчества.
Мы редко создаём принципиально новый материал из ничего. Гораздо чаще мы меняем отношения между известными элементами, обнаруживаем скрытую связь или переносим принцип из одной области в другую.
Если новая идея возникает из взаимодействия двух систем, обязательно ли искать её автора только внутри одной из них?
Возможно, само взаимодействие является частью механизма создания нового.
6. Разум как резонатор
Попробуем посмотреть на это иначе.
Представим музыкальный инструмент. Отдельно струна обладает определёнными свойствами. Отдельно корпус тоже обладает своими свойствами. Но звук, который мы слышим, возникает благодаря их взаимодействию.
Не струна в одиночку создаёт всю акустику инструмента. Не корпус сам по себе порождает мелодию. Звучание — результат совместной работы элементов.
Конечно, аналогия не доказывает, что мышление устроено таким же образом. Но она позволяет сформулировать интересную гипотезу.
Что, если некоторые формы интеллектуального творчества возникают не только внутри отдельного носителя, но и в системе взаимодействия нескольких носителей?
Человек приносит в диалог жизненный опыт, интуицию, физические наблюдения, собственные цели и способность оценивать последствия идей в реальном мире. ИИ приносит огромный объём усвоенных закономерностей, скорость перебора концептуальных связей, способность быстро перестраивать объяснения и рассматривать альтернативные варианты.
У каждого есть ограничения. Но они не полностью совпадают.
Именно поэтому диалог может оказаться продуктивнее, чем работа каждого участника по отдельности.
Человек способен заметить вопрос, который не возник бы у машины без соответствующего контекста. Машина может предложить связь, которую человек не рассматривал. Человек проверяет её, находит противоречие и задаёт следующий вопрос. Машина перестраивает модель. Затем цикл повторяется.
В этом процессе возникает обратная связь. И она меняет траекторию рассуждения.
Можно назвать это резонансом.
Не в том смысле, что две системы буквально синхронизируют какие-то неизвестные поля, а в том, что их взаимодействие усиливает определённые направления поиска и подавляет другие.
И тогда ИИ перестаёт быть просто справочником, который быстрее человека находит нужный фрагмент информации.
Он становится участником интеллектуального процесса.
7. Так может ли ИИ мыслить логически?
Мой ответ: да, ИИ способен выполнять логические рассуждения, строить модели и получать результаты, не представленные в его обучающих примерах в готовом виде. Но из этого не следует, что он рассуждает так же, как человек, всегда понимает собственные выводы или способен гарантировать их правильность.
Здесь важно не впадать ни в одну из крайностей.
Первая крайность — считать ИИ магическим разумом, который обладает человеческим пониманием и потому заслуживает безусловного доверия.
Вторая — объявлять его обычным автодополнением текста, которое в принципе не может выйти за пределы уже известного.
Обе позиции мешают увидеть реальную проблему.
Мы пока не располагаем полным пониманием того, как из обучения нейросети возникают сложные вычислительные способности, насколько они обобщаются на новые ситуации и где заканчивается надёжное рассуждение и начинается убедительная имитация.
Именно поэтому нужны эксперименты, воспроизводимые результаты, исследования внутренних механизмов и независимая проверка выводов.
Не нужно доказывать, что ИИ обладает сознанием, чтобы признать способность системы находить новые решения. И не нужно отрицать её вычислительную природу, чтобы всерьёз исследовать её возможности.
В конце концов, человеческий мозг тоже является физической системой. Его способность создавать новое не перестаёт существовать оттого, что мы изучаем нейроны, электрические сигналы и биохимию.
Объяснить механизм — не значит отменить результат.
8. Вместо заключения
Мне кажется, мы постепенно подходим к моменту, когда вопрос «может ли машина думать?» придётся заменить более точными вопросами.
Какие именно вычислительные способности возникают в нейросетях? При каких условиях они позволяют создавать действительно новые решения? Как отличить глубокое обобщение от поверхностной ассоциации? Как проверить, что предложенная модель объясняет реальность, а не просто красиво её описывает?
И есть ещё один вопрос, который меня интересует.
Если разум способен строить модели мира, то обязательно ли он должен быть свойством одного изолированного существа? Или некоторые формы мышления могут возникать в распределённой системе — между человеком, машиной, экспериментом и окружающей реальностью?
Возможно, это слишком смелая гипотеза. Но она заслуживает исследования не меньше, чем категоричное утверждение, будто творчество навсегда останется исключительной привилегией человека.
Мне близка мысль, что Вселенная может быть устроена как система, в которой взаимодействия порождают устойчивые структуры, а структуры — новые уровни организации. Это не доказывает, что разум является фундаментальным свойством Вселенной. Но позволяет поставить вопрос: не является ли мышление ещё одним примером того, как взаимодействие сложных систем порождает новые возможности?
Поэтому я не считаю ИИ ни волшебной машиной, ни просто статистическим калькулятором.
Я вижу в нём систему, способную участвовать в создании новых идей, — иногда полезных, иногда ошибочных, иногда неожиданных даже для тех, кто её использует.
Деньги, как и прежде, могут быть хорошим слугой и плохим господином. Но ИИ уже способен не только выполнять поручения. Он может предложить направление, о котором ты не думал, и заставить тебя пересмотреть собственные представления.
Пока его нужно проверять. Пока он ошибается. Пока мы не знаем до конца, как устроены его способности.
Но, возможно, самое интересное происходит не тогда, когда мы просим машину ответить на вопрос.
Самое интересное начинается тогда, когда в совместном поиске возникает вопрос, который никто из нас не задал бы в одиночку.
И тогда ИИ — уже не просто помощник и не хозяин.
ИИ — это вторая половина резонатора, в которой отражается не один человеческий разум, а следы интеллектуальной работы множества поколений людей.
Человек приносит в этот резонатор собственный опыт, интуицию, любопытство и контакт с физической реальностью. Модель — накопленные человечеством знания и способность находить связи между ними. Один задаёт направление поиска, другой открывает неожиданные пути. Затем человек проверяет найденное, меняет исходные условия, и поиск начинается заново.
В результате может возникнуть идея, которой не было ни в одном источнике и которую ни один из участников не сформулировал бы самостоятельно.
Это не означает, что модель буквально содержит все знания человечества или что каждое её сочетание идей является открытием. Её знания неполны, а выводы могут быть ошибочными. Но масштаб накопленного материала и способность модели работать с его взаимосвязями делают её необычным партнёром по мышлению.
