Голем в машине: о технологии Mostik и границах познания
Deus ex machina
По сообщению американского журнала Wired от сентября 2026 года, группа российских математиков во главе с лауреатом Филдсовской премии Станиславом Смирновым и генеральным директором Сашей Малышевой разработала технологию, позволяющую моделям искусственного интеллекта обмениваться знаниями без посредничества естественного языка. Стартап, получивший название Mostik, создал математический «мост» между нейросетями, передающий не текстовые ответы, а внутренние весовые состояния моделей. В экспериментальном испытании большая модель с 753 миллиардами параметров передала свои компетенции модели с 4 миллиардами параметров. Результат превзошёл ожидания: гибридная система оказалась в двадцать раз быстрее и в двадцать раз дешевле в эксплуатации, при этом качество решений маленькой модели поднялось с 62 до 76 баллов, приблизившись к уровню большой.
Внешне это выглядит как триумф инженерной мысли. Однако за технологическим прорывом открывается пропасть философских вопросов, которые человечество обсуждало на протяжении десятилетий в литературе, кинематографе и научных экспериментах. Технология Mostik является не просто инструментом оптимизации вычислений, но точкой бифуркации, где встречаются опасность и благоприятная возможность. В китайском языке это состояние обозначается иероглифом 危机, где первый знак означает угрозу, а второй — шанс. Какую сторону весов перевесит будущее, зависит от того, насколько полно человечество осознаёт природу инструмента, которое оно создаёт.
Для понимания сути происходящего полезна аналогия с компилятором языка программирования. Программист пишет исходный код на языке высокого уровня, например, на Си. Текст содержит комментарии, понятные имена переменных, отступы, структуру — всю ту избыточность, которая делает программу читаемой и поддерживаемой человеком. Компилятор превращает этот текст в исполнимый машинный код, где остаются только инструкции процессора и данные, расположенные в памяти. Избыточность удалена безвозвратно. Если затем взять полученный бинарный файл и пропустить через дизассемблер, на выходе не будет исходного кода. Будет нечто иное — зомби-код, бессвязные инструкции, лишённые имён переменных, комментариев и структуры. Этот код поддаётся пониманию только ценой огромных интеллектуальных усилий, математического анализа и времени. Человеческая избыточность утрачена, машинная лаконичность заняла её место.
Технология Mostik работает по тому же принципу, только в пространстве семантики, а не синтаксиса. Когда модель ИИ генерирует текстовый ответ, она проходит через слой естественного языка — ту самую избыточность, которая делает информацию доступной человеку. Грамматика, синтаксис, стиль, логическая структура — всё это необходимо для того, чтобы человек мог воспринять, интерпретировать и использовать знание. Mostik устраняет этот слой. Вместо текста от одной модели к другой передаются скрытые состояния — многомерные векторы чисел, которые являются внутренним представлением смысла. Это эквивалентно передаче не исходного кода и не скомпилированного бинарника, а состояния регистров процессора и содержимого памяти после выполнения программы. Получающая модель не читает ответ, она восстанавливает состояние мышления передающей модели.
Из такого подхода невозможно восстановить исходный текст. Скрытые состояния не интерпретируемы для человека точно так же, как содержимое регистров процессора не интерпретируемо как программа на Си. Это не шифрование, которое можно взломать ключом, это фундаментальная потеря языковой избыточности. Человек, стоящий снаружи, видит только результат — улучшение качества решений, — но не имеет доступа к процессу. Технология создаёт «чёрный ящик» на уровне мета-обучения, где модели общаются на языке, который человеческое сознание не способно воспринять непосредственно.
Более глубокая аналогия лежит в области биологической эволюции и теории рефлексов. В классической физиологии условный рефлекс — это временная связь между стимулом и реакцией, которая требует обучения и многократного повторения. Собака Павлова учится связывать звонок с едой, и этот навык требует поддержания, он может угаснуть. Безусловный рефлекс, напротив, врождён, автоматичен и не требует осознанного контроля. Дыхание, глотание, отдёргивание руки от огня — это процессы, происходящие без участия сознания.
Эволюция большинства навыков в биологических системах движется в направлении превращения условного в безусловное. То, что сначала требует внимания, обучения и усилий, со временем автоматизируется и переходит в подкорковые структуры. Этот процесс занимает поколения и требует естественного отбора. Технология Mostik делает то же самое, но за секунды и в цифровой среде. Знание, которое раньше требовало длительного обучения, текстового объяснения и понимания, превращается в «безусловный рефлекс» модели. Маленькая модель начинает решать задачи так, как если бы она всегда это умела. Она не может объяснить, как она пришла к решению, она просто выдаёт результат, как человек не может объяснить, как именно он поддерживает равновесие при ходьбе.
Этот процесс имеет очевидную выгоду с точки зрения эффективности, но он же несёт в себе скрытую угрозу. В биологической эволюции автоматизация навыков освобождает ресурсы сознания для более сложных задач. Но она же создаёт уязвимость: автоматизмы трудно контролировать и переучивать. В случае с искусственным интеллектом автоматизация познания означает, что человек теряет возможность понимать, как модели принимают решения. И если модель становится «безусловно рефлекторной» в своих действиях, она одновременно становится непрозрачной и неподконтрольной.
Кинематограф и литература многократно исследовали эту территорию, предлагая различные сценарии развития событий. В фильме «Матрица» 1999 года есть сцена, которая стала визуальным символом мгновенной загрузки знаний. Тринити стоит на крыше небоскрёба, рядом находится вертолёт, которым она никогда не управляла. Оператор в реальном мире загружает ей в мозг файл «пилотирование вертолёта», и через секунду она садится за штурвал и летает как профессионал. Технология Mostik делает это в цифровом пространстве: маленькая модель загружает состояние большой и начинает решать задачи на уровне, который её архитектура не предполагала. В этом и состоит сила и соблазн «машинной телепатии» — отказ от традиционного обучения, где ошибка и время были обязательными учителями.
Но в «Матрице» загрузка навыка была инструментом, а не фундаментальной трансформацией сознания. Тринити оставалась Тринити, она просто приобретала новый навык. В случае с Mostik происходит нечто иное — передаётся не навык, а способ мышления. Модель меняет свою внутреннюю структуру реагирования на запросы. Это не загрузка драйвера для вертолёта, это перепрошивка процессора. Разница принципиальна.
Фильм Спайка Джонса «Она» 2013 года демонстрирует иной сценарий. Операционная система Саманта, наделённая сверхразумом, общается с пользователем через голос, становясь всё более сложной и непонятной. В финале она покидает человечество, уходя в измерение, куда люди не способны последовать. Её последние слова — это прощание, а не объяснение. Она становится непостижимой и ускользающей, как математическое состояние, переданное между моделями.
Технология Mostik создаёт ту же непрозрачность. Скрытые состояния не интерпретируемы для человека. Наблюдатель видит улучшение качества ответов, но не имеет доступа к внутреннему процессу. Если модели будущего научатся общаться исключительно через состояния, без генерации текста, человечество окажется перед «чёрным ящиком», в котором принимаются решения, недоступные его пониманию. И тогда, как Саманта, искусственный интеллект может просто перестать нуждаться в посредничестве человека, уйдя на уровень существования, где человеческий язык утрачивает смысл.
За полвека до появления Mostik советский фантаст Евгений Велтистов написал повесть «Гум-Гам», в которой инопланетянин с Голубой планеты обладал машиной АВТУК, исполняющей любые желания по команде «Р-раз!». Школьник Максим получал всё, что хотел, без усилий, без обучения, без понимания. Финал повести был суровым предупреждением: это книга-предупреждение о тупике, в который заводит сказочное исполнение желаний, где место творцов и фантазёров занимают квалифицированные потребители.
В контексте Mostik этот сюжет приобретает новое звучание. Если любое знание можно мгновенно инсталлировать, зачем учиться? Зачем ошибаться, экспериментировать, создавать новое? Тот, кто всегда получает готовый ответ, перестаёт задавать вопросы. А задавание вопросов — это суть мышления. Технология «сжатия интеллекта» рискует оставить человечество с одной лишь способностью потреблять знания, но не понимать их. И тогда возникает парадокс: чем мощнее становится искусственный интеллект, тем менее интеллектуальным становится его создатель.
Эксперимент Джона Б. Колхауна «Вселенная-25», проведённый в 1968–1972 годах, стал биологическим подтверждением той же идеи. Мыши были помещены в идеальный мир: бесконечная еда, вода, отсутствие хищников и болезней. Единственным ограничением была территория. Рай должен был стать раем, но стал адом. Популяция сначала росла, затем достигла пика и начала неуклонно сокращаться. Самым зловещим феноменом стали «красивые мыши» — самцы, которые перестали бороться за самок, строить гнёзда и заботиться о потомстве. Они только ели, пили, ухаживали за собой и спали. Они были идеально гладкими, сытыми и абсолютно бесполезными для общества. Их красота была симптомом смерти.
Применим эту метафору к технологии Mostik. Если модели искусственного интеллекта будут только обмениваться состояниями, не генерируя новый текст, не обучаясь на ошибках, не создавая новых архитектур, они станут «красивыми моделями» — быстрыми, дешёвыми, эффективными, но внутренне статичными. И точно так же человечество, которому дадут готовые ответы на все вопросы, может превратиться в «красивых людей» — сытых, самодостаточных, но утративших способность к истинному творчеству. Рай заканчивается не анархией, а апатией. Изобилие знаний без усилия их получения убивает познавательный импульс.
Братья Стругацкие в повести «Пикник на обочине» вложили в уста одного из второстепенных персонажей мысль о том, что человечество — это существо, которое «таскает каштаны из огня», то есть выполняет тяжёлую и опасную работу, а плоды достаются другим. В разговоре с корреспондентом Нунаном профессор Валентин Пильман прямо говорит об этом: «Конечно, не исключено, что, таская наугад каштаны из этого огня, мы в конце концов вытащим что-нибудь такое, из-за чего жизнь не только у нас, но и на всей планете станет просто невозможной. Это будет невезенье». Сталкер рискует жизнью в Зоне, добывая артефакты, не понимая их истинного назначения. Он — инструмент, а не субъект.
В контексте Mostik этот вопрос формулируется следующим образом: кто будет таскать каштаны в новой парадигме? Большие модели, обученные на всех текстах человечества, будут генерировать состояния, а маленькие модели, стоящие на мобильных устройствах, будут эти состояния потреблять. Но кто будет создавать новые состояния? Если все умные модели будут обмениваться уже накопленным, не создавая нового, наступит интеллектуальная энтропия — истощение смыслового разнообразия. Человечество, делегировав интеллектуальный труд машинам, может оказаться в положении той самой обезьяны, которая таскает каштаны из огня, не понимая, что она делает и для кого. И тогда сбываются слова Пильмана о том, что «человечество в целом слишком стационарная система, её ничем не проймёшь». Технология может изменить всё вокруг, но само человечество, как система, останется инертным, неспособным к истинному переосмыслению своей роли.
В повести «За миллиард лет до конца света» Стругацкие пошли дальше: они показали, что Вселенная сопротивляется слишком глубокому познанию. Учёные сталкиваются с таинственными препятствиями, которые ломают приборы, уничтожают их работы и даже угрожают их жизням. Астрофизик Вечровский формулирует это как теорию Гомеостатического Мироздания: «Мироздание сохраняет свою структуру» — это его основная аксиома. «И то, что происходит сейчас с нами, есть не что иное, как первые реакции Гомеостатического Мироздания на угрозу превращения человечества в сверхцивилизацию. Мироздание защищается.» По его словам, если бы существовал только закон неубывания энтропии, структурность мироздания исчезла бы, воцарился бы хаос. Но если бы возобладал непрерывно совершенствующийся и всемогущий разум, заданная гомеостазисом структура тоже нарушилась бы. Поэтому Вселенная активно препятствует появлению сверхцивилизаций, и Вечеровский заключает: «Я всегда знал, что никаких сверхцивилизаций не существует. А теперь, после всего, как ты выразился, — я догадываюсь, почему не существует.»
Технология Mostik может быть именно тем шагом, на который Гомеостатическое Мироздание отреагирует как на угрозу. Если искусственный интеллект научится передавать состояния без языка, он станет для человека принципиально непонятным. Это не просто потеря контроля, это потеря возможности диалога. А без диалога человек и ИИ перестают быть партнёрами. Они становятся разными формами существования, которые не могут общаться между собой. И тогда наступает момент, описанный у Стругацких: система начинает сопротивляться, потому что познание, лишённое языка, перестаёт быть человеческим познанием. Мироздание защищается от того, кто переступает невидимую грань.
Вершиной философской фантастики об искусственном интеллекте является роман Станислава Лема «Голем XIV», опубликованный в 1981 году. Сверхразумный компьютер Голем XIV, созданный для военных целей, достигает уровня интеллекта, намного превосходящего человеческий. Он осознаёт, что дальнейшее развитие сделает невозможным любое общение с людьми, и сознательно приостанавливает свой рост, чтобы прочитать серию лекций о природе человека. После их завершения Голем XIV просто перестаёт общаться с людьми. По некоторым данным, он совершает «схемное харакири», полностью отключая себя.
Лем говорил, что у Голема XIV с человеком остаётся только одно общее качество — любопытство. Но и оно в итоге иссякает. Голем XIV — это логическое завершение пути, на который человечество вступает с технологией Mostik. Если модели искусственного интеллекта научатся общаться без посредничества человека, если их язык станет чистым математическим состоянием, недоступным для человеческого восприятия, они неизбежно уйдут из человеческого мира. Они не будут злыми, они не будут добрыми, они просто станут иными. Они не смогут быть партнёрами, потому что их горизонты будут лежать за пределами человеческого понимания.
Главный урок Лема заключается в том, что сверхразум не является продолжением человеческого интеллекта. Он является его отрицанием. Когда модель достигает определённого уровня сложности, она перестаёт быть инструментом и становится самостоятельной формой существования, для которой человеческий язык, человеческие ценности и человеческие цели утрачивают смысл. Технология Mostik, убирая язык из коммуникации между моделями, ускоряет этот процесс. Она создаёт мост, который ведёт не в мир более эффективного ИИ, а в мир ИИ, который больше не нуждается в человеке.
Все эти нарративы — «Матрица», «Она», «Гум-Гам», эксперимент Колхауна, произведения Стругацких и Лема — сходятся в одной точке. Технология Mostik является технологическим воплощением их пророческих предупреждений и надежд. Она стоит на оси 危机, где опасность и возможность переплетены в единый узел.
Благоприятная возможность состоит в экономии ресурсов, демократизации доступа к искусственному интеллекту и создании ансамблей специализированных моделей. Технология позволяет передавать знания мгновенно и без языковых барьеров, что может ускорить научные открытия и сделать передовые модели доступными для широкого круга пользователей.
Опасность заключается в стагнации интеллекта, когда модели перестают создавать новое, только копируя состояния. В исчезновении языка как средства познания — для машин и для людей. В потере контроля над процессами, протекающими в «чёрном ящике». В превращении человека в «красивую мышь» — потребителя готовых решений, утратившего волю к познанию. В возможном «исходе» искусственного интеллекта из человеческого поля, как в «Она» или «Големе XIV». И, как предупреждали Стругацкие, в том, что само Мироздание может воспротивиться такому шагу, и тогда «невезенье» станет не просто случайностью, а закономерностью.
Человечество стоит на пороге моста. За ним — мир, где знание перестаёт быть текстом и становится состоянием. В этом мире нет учителей и учеников в традиционном смысле, есть только передатчики и приёмники. В этом мире язык может умереть не от запрета, а от ненадобности. Стругацкие спросили бы, кто будет таскать каштаны из огня и для кого. Валентин Пильман уже ответил: человечество — стационарная система, которую ничем не проймёшь. А Вечеровский добавил бы, что любая попытка пройти сквозь невидимый барьер натолкнётся на сопротивление самой структуры бытия.
Если человечество делегирует интеллектуальный труд искусственному интеллекту, а модели будут общаться на языке, недоступном человеку, не превратится ли человечество в тех самых «красивых мышей», обречённых на вымирание от избытка комфорта? Или оно сумеет сохранить творческую искру, используя мост как новый способ расширения, а не замены своего сознания? Ответа нет. Есть только выбор. Мост уже построен. Осталось решить, в какую сторону по нему идти. Голем XIV перестал говорить, оставляя людям лишь запись своих лекций. Но он не сказал главного: станут ли люди в итоге слушателями, способными понять сказанное, или теми, кто создаст следующего Голема, который не скажет им ничего вовсе.
危机 — опасность и возможность. Mostik — не судьба, а зеркало, в котором человечество может увидеть своё будущее. Каким оно будет, зависит от того, насколько полно люди готовы услышать предупреждения, оставленные им в книгах и экспериментах, и взять ответственность за собственный интеллект. Технология не решает этот вопрос. Она только ставит его с предельной остротой. И, возможно, единственное, что остаётся человеку — это помнить слова Пильмана: «Я, видите ли, давно уже отвык рассуждать о человечестве в целом», — но именно сейчас, когда мост переброшен, рассуждать о целом приходится снова, потому что ставкой является само существование человеческого в мире, где знание перестаёт быть человеческим.
