Думаю, мало кто может отписаться на данную тему.
Был в этом славном городе в отпуске и заметил я там замечательные подроюности, а именно канализационные люки. Как известно, чугуний один из самых технологичных, долговечных и дешёвых материалов. Одних чугунных пушек Петровской эпохи сохранилось изрядное количество.

Но, вопрос не об этом, вопрос про люки.
Гуляя около Гостинного Двора, увидел там замечательный люк.

Как известно, Петроград это название Санкт-Петербурга, которое город носил с 18 (31) августа 1914 года до 26 января 1924 года. Т.е., люку больше 100 лет.

Так же, гуляя около Шереметьевского дворца увидел там так же люки, ещё более древние

Проблема заключается в том, что большие языковые модели (LLM) имеют ограниченную глубину рассуждений, а техника Chain-of-Thought (CoT) требует много данных, медленная и хрупкая.

Для решения этого предложена HRM (https://arxiv.org/abs/2506.21734) рекуррентная архитектура, вдохновленная иерархической организацией мозга.

Она состоит из двух модулей. Первый модуль это высокоуровневый (медленный, абстрактное планирование), а второй это низкоуровневый (быстрый, детальные вычисления). Между модулями есть иерархическая сходимость, благодаря которой модули работают на разных временных масштабах, предотвращая преждевременную сходимость. Эффективность здесь в двух вещах это экономное использование памяти (обучение с приближённым градиентом) и гибкость так как система сама решает, сколько вычислений ей нужно для конкретной задачи (адаптивное время вычислений, ACT).

В результате модель с всего 27 млн параметров, обученная на 1000 примерах без предобучения и CoT превосходит большие LLM (Claude, o3-mini) на сложных задачах:

ARC-AGI (индуктивные рассуждения): 40.3% vs 34.5% и 21.2%.

Судоку и лабиринты: Почти 100% точность, где CoT-модели показывают 0%.

Фельдшерское акушерский кабинет в глубинке