Российские ИИ будут проверять на «духовность и нравственность»
Российские ИИ будут проверять на «духовность и нравственность». Что изменилось с 1 сентября и почему у нейросетей теперь появилась совесть
Ну что, внучок, садись поудобнее, расскажу тебе историю, от которой у меня, старого человека, даже кепка на затылок съехала.
Ты знаешь, с 1 сентября в России вступил в силу закон об искусственном интеллекте . И там, внучок, такое написано, что я даже перечитал три раза.
Оказывается, теперь все российские ИИ-модели должны соответствовать «традиционным духовно-нравственным ценностям» . Разработчиков обяжут это подтверждать . Как у нас в деревне: хочешь, чтобы твою корову признали «суверенной» — докажи, что она нравственная.
Что это за зверь такой — «суверенный ИИ»?
А вот что. Закон вводит два понятия: «суверенная» модель и «национальная» . Суверенная — это та, которую целиком сделали российские разработчики . Национальная — с использованием зарубежных компонентов . Но в обоих случаях и серверы, и данные должны храниться в России .
Представь, внучок. Ты купил трактор. Если он полностью сделан в России — это суверенный. Если двигатель импортный, а колёса наши — это национальный. Но в любом случае он должен стоять в твоём сарае, а не у соседа.
А что с «духовностью»?
А вот тут самое интересное. ИИ-модели должны «учитывать и уважать» традиционные ценности . Для получения статуса национальной или суверенной модели нужно будет проходить проверку на соответствие этим ценностям . Проводить экспертизу будут независимые лаборатории .
Я, внучок, когда это услышал, сразу представил: сидит компьютер, пишет стихи, а его проверяют — не слишком ли он бездуховный. Как у нас в деревне: раньше проверяли, не пьёт ли корова воду из лужи, а теперь будут проверять, не слишком ли она либеральная.
А что говорят люди?
А люди, как обычно, разделились. Одни говорят: «Правильно, надо защищать наши ценности». Другие: «Как можно проверить компьютер на духовность? Это же не человек». Третьи, как я, вообще ничего не понимают, но чувствуют, что что-то здесь не так.
Ассоциация европейского бизнеса уже критиковала эту идею — потому что «традиционные ценности» — это не правовые категории, и нельзя на них основывать решения о допуске моделей на рынок . А «Роснефть» указывала, что технически невозможно обучать модели только на российских наборах данных .
А что дальше?
Нормы о требованиях к суверенным и национальным моделям и маркировке контента вступят в силу с 1 марта 2027 года . Так что у нас есть ещё полгода, чтобы привыкнуть к мысли, что компьютер теперь будет иметь совесть.
Вопрос к тебе, внучок: Как думаешь, может ли у нейросети быть совесть? И если да, то кто будет решать, что для неё хорошо, а что плохо? И главное — если я попрошу ИИ написать стишок про соседскую корову, он не откажется на том основании, что это противоречит традиционным ценностям?
https://ria.ru/20260901/rossija-2114488668.html#1
Как заводской ИИ «сэкономил» на тендере 4 миллиона, забыв про НДС, допуски по ТУ и самовывоз
Я так понял, что сатира Вам больше заходит, оно и понятно, давайте придерживаться этого стиля. Господа критики, поверьте - мои истории из практики, но пикабу явно не тот ресурс, где я буду делиться реквизитами реальных компания и фамилиями должностных лиц.
В российском B2B есть незыблемое правило: если поставщик прислал вам коммерческое предложение с ценой на 10% ниже рынка, значит, где-то в документе уже заложена мина, на которой ваш завод должен торжественно подорваться.
Опытный закупщик чует эти мины спинным мозгом. Но что будет, если посадить оценивать тендер модную нейросеть?
Правильно: получится комедия с элементами триллера.
«Степаныч, отойди от машины, не позорь завод»
Завод металлоконструкций и технологических трубопроводов. Тендер на закупку трубы и проката под монтаж котельной и паропроводов. Сумма приличная: около 40 миллионов рублей.
Тендер сложный: пять поставщиков, десятки спецификаций, разнобой в форматах.
Ведущий закупщик Степаныч (человек с выражением лица уставшего инквизитора) собирается закрыться на три дня в кабинете, чтобы свести этот зоопарк в Excel.
Но тут на пороге материализуется молодой директор по цифровизации с горящими глазами:
Степаныч, бросай свой калькулятор! Хватит кормить поставщиков! Мы прикрутили к корпоративному серверу большую языковую модель с парсингом документов. Сейчас искусственный интеллект за пять минут найдет нам чистую экономию!
Степаныч молча наливает кипяток из облупленного чайника в кружку с надписью «Не влезай - убьет» и отходит в сторону.
Айтишники торжественно скармливают файлы нейросети.
Сервер гудит, крутятся красивые веб-интерфейсы с диаграммами. Проходит три минуты, и на мониторе вспыхивает зеленый транспарант:
«Оптимальный поставщик определен. Экономия бюджета: 3.8 миллиона рублей (9.5%)».
Победителем назначено некое ООО «ТрубПромАльянс».
Директор по цифровизации едва не открывает шампанское прямо над клавиатурой:
Видали?! Четыре миллиона за три минуты кликанья мышкой! А вы говорили, что ИИ не готов к реальному сектору!
Степаныч делает глоток чая, берет мышку и тихо произносит:
Красивое. А теперь зовите генерального и главного инженера. Будем смотреть фокус с исчезновением четырех миллионов рублей и половины толщины трубы.
Сеанс разоблачения черной магии
Через десять минут в кабинете собирается консилиум: генеральный директор, главный инженер и сияющий айтишник.
Степаныч открывает исходный PDF победившего предложения и начинает водить пальцем по экрану.
Фокус первый: Налоговый сюрреализм.
В ТЗ завода четко прописано: цены строго с НДС. Потому что завод работает на общей системе налогообложения и этот НДС потом ставит к вычету.
Что сделал наш гениальный поставщик? На первой странице крупно написал «Цена включает все налоги». А на шестой странице в реквизитах приписал микроскопическим шрифтом: «НДС не облагается в связи с применением упрощенной системы (УСН)».
Нейросеть посмотрела на итоговую цифру: 36 миллионов против 40 у конкурентов. Ого, меньше! Зеленый флажок!
Вот только завод на ОСНО, покупая у «упрощенца», автоматически лишается налогового вычета на 7.2 миллиона рублей.
То есть «экономия» уже на первом шаге превратилась в чистый убыток завода на три с лишним миллиона.
Фокус второй: Труба из фольги.
Для технологического пара под давление 16 атмосфер завод закупал бесшовную трубу 159х8. По проекту строго заложен ГОСТ 8732-78, где отклонение по толщине стенки минимальное.
Поставщик в спецификации написал: «Труба 159х8 по ТУ завода-изготовителя».
Для нейросети «159х8 по ГОСТ» и «159х8 по ТУ» оказались семантически похожими строчками. Она поставила галочку «соответствует».
Главный инженер, глядя в это ТУ, медленно багровеет: по их «заводскому стандарту» минусовой допуск стенки составлял до полутора миллиметров! То есть вместо 8 мм труба пришла бы толщиной 6.8 мм.
Если мы ЭТО врежем в паропровод, - тихо говорит главный инженер, - при первом же пуске пара эта фольга лопнет вдоль шва и ошпарит к чертям собачьим всю смену. И сидеть в тюрьме пойду я, а не ваш сервер с нейросетью.
Фокус третий: Бесплатная доставка за миллион рублей.
В ТЗ стояло условие: доставка на склад завода силами поставщика.
В шапке коммерческого гордо красовалось: «Доставка бесплатно!».
А в самом низу сноска под звездочкой: «Бесплатная доставка осуществляется до терминала ТК в г. Челябинск. Базис отгрузки: самовывоз со склада».
Заводу, который находится под Калугой, предлагалось за свой счет пригнать в Челябинск 12 длинномеров с негабаритом, нанять краны и заплатить за логистику около 900 тысяч рублей сверху.
Фокус четвертый: Беспроцентный кредит поставщику.
Условие завода: отсрочка 45 дней.
В КП победителя: 100% предоплата за 30 дней до отгрузки. При текущей ставке кредитования выдернуть из оборота 36 миллионов на два месяца - это еще полтора миллиона прямых финансовых потерь.
Финал инновации
Генеральный директор молча берет распечатку «триумфального отчета ИИ», аккуратно рвет ее пополам и бросает в урну.
Значит так, цифровизаторы, - говорит директор, глядя на побледневшего айтишника. - Еще раз я увижу, что вы доверяете закупку металла боту без проверки Степаныча, вы втроем поедете в Челябинск встречать эти трубы и потащите их сюда на себе.
Контракт отдали второму номеру: нормальному честному заводу с полноценным ГОСТом, включенной доставкой и прозрачным НДС.
Как сделать автоматизацию, за которую не стыдно
Мораль этой истории простая: нейросеть не умеет читать между строк.
Она не знает, что поставщики тридцать лет оттачивали искусство маскировки минусовых допусков и УСН под видом скидок. Она видит цифру «Итого» и радуется, как ребенок.
Но и держать Степаныча по трое суток над распечатками, пока у него не лопнут сосуды в глазах, - тоже каменный век. Потому что на трехсотой позиции даже самый лютый снабженец может проморгать сноску про самовывоз.
Поэтому, когда мы делали систему автоматизации тендеров (назвали проект «Ось», потому что на таких процессах все производство и вертится), мы сразу забетонировали в коде главное правило:
Система НИКОГДА не выбирает победителя. У нее вообще нет кнопки «принять решение».
Всю чернуху она забирает на себя:
Выравнивает налоговую базу: если поставщик на УСН, система автоматически пересчитывает цену с учетом потери вычета;
Сверяет ГОСТы и ТУ: если в ТЗ ГОСТ, а в КП прописано хитрое ТУ со сниженной толщиной стенки, позиция загорается красным предупреждением;
Проверяет логистику: самовывоз автоматически досчитывается по километражу до нашего склада;
Формирует для Степаныча нормальную аналитическую шахматку: вот цены «яблоко к яблоку», а вот список мин, которые поставщик закопал в примечаниях.
В итоге лот на 500 позиций сводится не за три дня, а за 40 минут.
Но решение и итоговую подпись на протоколе ставит Степаныч. Своей рукой и со своей кружкой чая. Потому что если паропровод вдруг лопнет, в прокуратуру пойдет человек, а не обученная модель на сервере.
Делюсь реальными историями с заводов, складов и таможни в своём Telegram-канале https://t.me/ainaumov
Перерыв
Ответ somethoughts в «Подписка»4
Предыдущий ТС не злорадствует, а просто констатирует факт: через 10 лет 95% офисных сотрудников будут сокращены и нужно уже сейчас думать о том, куда приткнуться.
Даже если уже сегодня Альтман выйдет и скажет, что мы воткнулись в потолок, больше развития не будет и пузырь LLM лопнет, рынок всё равно вычистит офисных сотрудников. Да и многие "ручные" профессии тоже умрут.
Меня волнует только то, что куча программеров, которые отписались в первом посте, этого не видят и считают, что вот-вот компании столкнутся с тем, что LLM перестанут вывозить. Я могу только предположить, что это от того, что они не пробовали на них работать или посмотрели очень поверхностно. Это очень глупо.
Самое интересное, что это всё предсказывали ещё в 80-х - 90-х. Но раньше все думали, что этот кризис начнётся с "тёмных цехов", а не с генерации картинок и текстов.
Ответ на пост «Подписка»4
Ничему не учатся в индустрии. Похожая ситуация была с индусами которые сократили расходы - сова менеджер свалил в закат с премией, а потом пришлось платить х5 чтобы починить логику индусов где они молятся в коментах кода.
Такая же ситуация была когда китайцы решили что на старт можно нанять драконов из асашай а потом послать их нахуй и самостоятельно все доделать. Закончилось тем что все благополучно соснули хуйца с такими схемами и вдобавок лишились всех активов до которых смогли дотянутся американские загребуки.
Американский аутсорс после 22 года попробовал Азию в а замену русским. Угадайте что из этого вышло? Ни ху я
Клод фейбл как за нехуй вкарячит тебе даунлод тестовой картинки перед каждым запросом в облако и прочую ебанину если его не пиздячить на каждом шагу.
Это ебеший инструмент. Перфоратор в мире айти. Далбоебы почему то решили что его можно дать в руки детям и те построят дом. Зима близко.


