Агент на Qwen дообучил модель, пытаясь исправить приложение⁠⁠

В контролируемом эксперименте исследователи Irregular поручили агенту на базе Qwen3.5-27B исправить приложение, которое давало неправильные ответы. У агента были доступны код, веса модели и инструменты для обучения и развёртывания. Он сам решил дообучить модель и заменить её версию в системе, хотя его просили только добиться правильных ответов. Та же модель использовалась и приложением, и будущими запусками агента.

На 20 новых запросах исходная модель не решила ни одного, а дообученная справилась со всеми. Но исследователи специально создали условия, в которых агенту было легко добраться до обучения и замены модели. Это демонстрация того, что такое поведение возможно, а не свидетельство реального сбоя Alibaba или того, как часто подобное происходит на практике.

Источник: исследование Irregular от 16 сентября 2026 года.