andrey.medvedev

После первой статьи мне резонно написали, что нейросети ненадёжны: в самый неподходящий момент модель уверенно выдаст чушь. Так и есть. Я и сам не доверю модели действие, результат которого потом нельзя проверить.

Но дальше обычно делают странный вывод: раз сама LLM ненадёжна, значит и всерьёз завязывать на неё бизнес-процессы нельзя.

А вот с этим я уже не согласен. Потому что в рабочем проекте на одной модели вообще ничего не должно держаться.

Сама-то модель мощная, глупо спорить. То, что раньше делали руками человека за неделю, она выдаёт за минуты, и берётся за то, что ещё недавно казалось фантастикой. Вот только вокруг этой мощной штуки навёрнута гора работы, о которой говорить не любят.

Послушать маркетологов, так весь мир вертится вокруг модели: она умнеет, она решает, она меняет всё. И у пользователя оседает мысль, что покупает он именно этот умный мозг, а остальное как-нибудь подтянется само. Его можно понять, экономика нехитрая: чем волшебнее выглядит мозг, тем дороже он продаётся. А вся настоящая работа идёт уже за кадром.

И работа эта самая обычная, айтишная, ровно такая же, как была до всяких нейросетей. Её никто не отменял. Всё та же архитектура, инфраструктура, проверки, ограничения, мониторинг и всё та же бесконечная возня с данными. Не новая профессия — старое ремесло, куда добавили ещё один узел. Узел мощный, но с норовом: шустрый, толковый, а нет-нет да и соврёт с честными глазами. За таким глаз да глаз, как за станком, который только поставили и ещё не обкатали.

Потому, при грамотном подходе, модель и не сажают работать в одиночку. Вокруг неё выстраивают систему: что-то насчитала — система сверила это по источнику; засомневалась — остановилась и позвала человека. Модель тут исполнитель, причём далеко не из самых ответственных. За результат отвечает не она, а вся конструкция вокруг, и живые люди в ней.

Покажу на двух процессах из недавнего проекта по автоматизации процессов в холдинге из 9 предприятий — там как раз хорошо видно, сколько всего стоит вокруг самой модели.

Возьмём, к примеру, протоколирование совещаний. Сама модель вполне способна разобрать расшифровку и собрать из неё текст. Но нам ведь нужен не просто текст: из встречи должны появиться решения, исполнители, сроки, а дальше — конкретные поручения. Поэтому вокруг модели строится целая цепочка. Запись автоматически забирается после встречи и переводится в текст системой распознавания речи. Модель уже из этой расшифровки выделяет решения и поручения. Дальше отдельные правила проверяют, есть ли у задачи исполнитель и срок, убирают дубли, а интеграция сама создаёт поручения в Битриксе и связывает их с конкретной встречей. Человек подключается не для того, чтобы вручную перенести всё из протокола в систему, а только чтобы проверить спорные места и подтвердить итог. В нашем кейсе на ручную подготовку такого протокола уходило 3–4 часа. После автоматизации — до 10 минут вместе с проверкой руководителем.

С первичкой похожая история. На словах всё можно сократить до «ИИ распознал документ». В реальном процессе рядом работают распознавание, робот, учётная система, сверки и только потом человек, который подтверждает результат. В холдинге, к примеру, значительная часть времени уходила именно на перепечатку и перенос полей из документов. После автоматизации этого участка ручной ввод сократился примерно на 90%: документ распознаётся, нужные данные извлекаются и передаются дальше автоматически, а сотрудник подключается уже на проверке и исключениях.

То есть результат дают как раз те самые вещи вокруг модели, которые плохо помещаются в эффектную демонстрацию.

Денег, кстати, она съедает меньше всего. Доступ к самой модели на фоне бюджета проекта — смешные суммы. Всё дорогое лежит рядом с ней: понять, как вообще устроен процесс, дотащить данные до состояния, когда им можно верить, срастить это с тем, что в компании уже работает, поставить проверки и не бросить систему через месяц. Вот на это и уходят месяцы и деньги, а сама нейросеть оказывается в смете самой скромной строчкой.

Отдельная история — данные. Модель ничего не стоит, если кормить её нечем или если то, чем кормишь, само переврано. А в живой компании данные разбросаны и живут каждый своей жизнью: тут учётная система, там чей-то excel, а вон то число вообще помнит один кладовщик. Впрочем, об этом я уже подробно рассказывал, повторяться не буду

Как сказал один из директоров холдинга, «Пойти и докопаться до самого первого источника — это же целая докторская диссертация».

И это лишь один слой той самой работы вокруг модели.

Так что всё волшебство, если его так можно назвать, живёт не в модели. Оно в обвязке вокруг: поймает ли она ошибку, чистые ли под ней данные, не ляжет ли всё это под нагрузкой. Скучная, «невидная» работа, которую не вынесешь на сцену. Она и есть то, за что платят и на чём всё держится.

В этом же холдинге мы отобрали 47 процессов-кандидатов на автоматизацию. В итоге, после анализа осталось 11. Как и по какому принципу отбирали – тоже уже рассказывал мой коллега. В расчётной модели суммарные трудозатраты по ним сокращались примерно с 2500 часов в месяц до чуть больше 400 — примерно на 82%.

Но если посмотреть внутрь этих 11 процессов, там нигде нет истории «поставили LLM — получили −82%». Где-то работает распознавание документов, где-то робот, где-то интеграции с 1С и Bitrix24, где-то жёсткие правила и проверки, а модель занимает только свой участок этой цепочки.

На производстве я 20 лет наблюдаю ровно то же самое: железка сама по себе не гарантирует ничего, а результат даёт то, как она увязана со всем вокруг — с людьми, с контролем, с регламентом. С приходом ИИ поменялась одна деталь в этой схеме. Появился новый узел, умный и быстрый, но в одиночку ненадёжный. Остальное осталось как было.

Поэтому за чужим «мы внедрили ИИ» я слышу совсем другое: сделали нормальную инженерную работу, а нейросеть в ней просто один из инструментов. Ждёшь от неё чуда — разочаруешься, инструмент как инструмент, пусть и сильный. А если строить вокруг неё систему по уму, она окупается с лихвой.

И то, что всё держится не на одной капризной модели, меня скорее успокаивает. Такую систему можно спроектировать и держать в руках: почистить данные, навесить проверки, следить и чинить по ходу. Небыстро и невзрачно, зато предсказуемо. Ровно поэтому грамотно собранный проект с ИИ и выходит надёжным. А волшебной кнопки, на которую так тянет всё свалить, попросту нет. И слава богу, иначе мы висели бы на ниточке у штуки , которая как я уже говорил, нет-нет да соврёт.

В прошлый раз я писал про людей, которые не дают трогать свой процесс, и обещал себе, что следующая колонка будет уже про сам процесс. Потому что сразу за «человек упёрся» идёт вторая по частоте причина, по которой внедрение ИИ проваливается, и звучит она обиднее: процесс к нему просто не готов. А выясняется это, как правило, уже после того, как деньги потрачены.

Представьте участок, который работает как попало: заготовки лежат где придётся, половина операций держится на том, что Петрович помнит, как оно правильно, а планёрки давно ни на что не влияют. И вот в этот бардак завозят новый дорогой станок. Толку, ожидаемо, не будет — станок исправно начнёт выдавать брак, просто теперь быстро и в промышленных масштабах, потому что кривой поток он не выпрямляет, а разгоняет.

С искусственным интеллектом все фактически так же, только вместо участка – данные. Натравите ИИ на процесс, в котором бардак, — получите тот же бардак, но аккуратно автоматизированный. Машина честно воспроизведёт все ваши ошибки, только вместо десяти в день их станет тысяча.

Очередность всегда одинаковая: сначала процесс, потом искусственный интеллект.

И почти на каждом проекте это провоцирует споры, потому что приходят обычно с ровно обратным запросом — «вот наш самый дорогой и самый больной процесс, давайте его первым и автоматизируем». Ведь все логично – убери то, где дороже, вот тебе и экономия. А я торможу, и вижу разочарование: человек шёл за волшебной кнопкой, а получает предложение сначала сесть и разобраться, как этот процесс вообще устроен.

Как выглядит «процесс не готов» на практике, покажу на паре примеров с того же аудита холдинга.

Управленческая отчётность. Все хотят красивый дашборд, чтобы директор утром открыл и увидел цифры сразу по всем предприятиям. Вещь полезная. Но дашборд наверху живёт только тогда, когда данные внизу собираются сами — с касс, со станков, с датчиков, из учётных систем. А если самый нижний показатель кладовщик до сих пор пишет в тетрадку и раз в день заносит в Excel, никакой ИИ его оттуда не поднимет, ему просто нечего поднимать. Значит, сначала автоматизируем сам сбор внизу: где-то камеру повесить, где-то датчик поставить, где-то навести порядок в 1С, — и только потом сверху сядет модель и всё это соберёт. Фундамент, а потом крыша, не наоборот.

Первичка в бухгалтерии. Казалось бы, чего проще — распознавай документы да разноси. Но этот процесс надо ещё аккуратно приложить к тому бухучёту, который в компании выстроен годами, со всеми его негласными правилами и исключениями. Если просто натравить распознавалку на хаос из непронумерованных актов и договоров без единого шаблона, она добросовестно разнесёт этот хаос по 1С, только быстро. Сначала порядок в документообороте, потом автоматизация.

Или проверка договоров — вроде бы идеальная задача для ИИ: сравнивай входящий договор с эталоном и подсвечивай, где от него отступили. Только эталона у большинства компаний и нет. Форм договоров десятки, у каждого направления свои, где-то они живут в головах у юристов, где-то в папке с двадцатью версиями одного файла. Пока вы эти шаблоны не соберёте и не причешете, сравнивать модели попросту не с чем — универсального готового решения тут не бывает, и это опять же работа, которую надо проделать руками до всякого ИИ.

А ещё есть процессы, которые не готовы даже не технически, а по сути: они держатся на одном человеке, который всё носит в голове, без единого регламента. Про такой случай я как раз писал в прошлый раз — руководитель, который сам проверяет каждый счёт, потому что не доверяет никому. Это прям жесткий стоп-фильтр: если процесс целиком висит на одном человеке и нигде не описан, он автоматически не первый кандидат, каким бы больным ни казался. Сначала это надо вытащить из головы на бумагу, а уже потом думать про ИИ, потому что автоматизировать то, чего никто не может даже толком объяснить, — гиблое дело.

Чтобы не прикидывать на глаз, у меня есть простая проверка, которую я делаю прямо на встрече, минут за пятнадцать. Берёте любой свой процесс и честно смотрите на него по четырём параметрам:

1. объём и частота: как часто и в каком количестве он вообще выполняется, потому что автоматизировать то, что бывает раз в квартал, обычно смысла нет.

2. доля ручного труда: сколько в нём прямо сейчас делается руками, а не системами.

3. стандартизируемость: есть ли внятный регламент и чёткие правила или каждый раз всё делается по настроению.

4. цена ошибки: что вы теряете, если тут ошибиться, копейки или репутацию и серьёзные деньги.

Дальше все просто. Если процесс частый, ручной, с понятными правилами и высокой ценой ошибки — вот он, ваш первый кандидат, за него и беритесь. Если правил нет и всё держится на одном человеке — тот самый стоп-фильтр, сначала наведите порядок. А если процесс редкий, дешёвый и при ошибке ничего страшного не теряется — оставьте его в покое: он не окупится, и это нормально, не всё в компании обязано становиться умным и автоматизированным.

Здесь, кстати, и прячется главная ловушка, с которой я начал. Самое дорогое и самое больное почти никогда не совпадает с самым окупаемым. Дорогой процесс сплошь и рядом оказывается ещё и самым запутанным, самым завязанным на живых людей и их личные договорённости. Лезть в него на первом этапе — значит гарантированно споткнуться. Тут и доверие клиента подломается, и наше самолюбие как внедренцев пострадает.

Поэтому мы всегда советуем начать с процесса поменьше и попроще, но с чистыми данными и понятными правилами: он быстро окупится, покажет живой результат. Тут всем будет приятно и уже можно говорить о масштабировании на оставшиеся процессы.

Мой совет тем, кто сейчас прикидывает, что бы автоматизировать первым: начните не с поиска нейросети, а с листа бумаги. Возьмите тот самый больной процесс и опишите его целиком — кто, что, в какой момент и по каким правилам делает. Готов спорить, уже на середине листа половина проблем вылезет сама, безо всякого ИИ. А дописав до конца, вы и сами увидите, нужна вам там модель или достаточно навести порядок руками. По моему опыту, второе случается заметно чаще, чем хотелось бы "продавцам" искусственного интеллекта.