Серия «Кудахтеры»

На сайте минцифры есть перевод статьи «Qwen3.8-27B: лучший локальный LLM, который вы, вероятно, не сможете запустить» (Оригинал - Qwen3.8-27B: the best local LLM you probably can't run, https://thomas-wiegold.com/blog/qwen-3-8-27b-best-local-llm/) , где пишут, что:
Перевод от Вестника Минцифры:
Вкратце: для 4-битного квантового процессора вам понадобится от 17 до 18 ГБ памяти, плюс кэш-память KV. 24 ГБ унифицированной памяти — это практический минимум, 32 ГБ — оптимальный объем, а 48 ГБ — золотая середина.
Оригинал:
Short version: you need about 17 to 18 GB for a 4-bit quant, plus KV cache on top. 24 GB of unified memory is the practical floor, 32 GB is where it gets comfortable, and 48 GB is the value sweet spot.

Мой первый опыт «у себя»оказался неудачным.
LM Studio сообщает, что я нищеброд, и надо никак не 8 гигабайт памяти в виртуальной машине, а хотя бы 20:
Model loading was stopped due to insufficient system resources. Under the current settings, this model requires approximately 19.24 GB of memory, and continuing to load it would likely overload your system and cause it to freeze. If you think this is incorrect, you can adjust the model loading guardrails in settings.

Пробовать и проверять мне было лень, пришлось сделать две вещи, которые лучше сделать сразу

1 Настроить каталог для хранения моделей (настройки – общие - Models Directory, по умолчанию - C:\Users\youuser\.lmstudio\models

2 Скачать lmstudio-community/Qwen3-8B-GGUF. Легко сказать, трудно сделать.
Я доигрался с настройками, и скорость скачивания в виртуальной машине упала с 15 (или мегабайт, или мегабит)\секунду до 256к. Включил обратно VMQ (обычно, VMQ все портит, а тут наоборот), и скорость вернулась аж до 30 чего-то в секунду. Магия, не иначе.

Но скачалось, и работает. Без всякого GPU, внутри виртуальной машины с 2 процессорами и 16 памяти.

Заключение.

Оказывается, Otus  выпустил статью (на braintools и на вестнике минцифры) «Запустить LLM локально: что считать до покупки видеокарты?» , где самое полезное, это ссылка на тестирование:

Инженер Hugging Face Мэтью Кэрриган собрал стенд под полную DeepSeek‑R1 на 671 миллиард параметров в 8-битном квантовании — и не поставил туда ни одной видеокарты. Два процессора AMD EPYC, 768 ГБ DDR5, Linux, llama.cpp.
Обошлось примерно в шесть тысяч долларов. На выходе — 6–8 токенов в секунду при потреблении меньше 400 ватт. Отдельная деталь: правка в BIOS, выставление NUMA‑групп в ноль, удваивала эффективность работы с памятью.

Оригинал статьи, на которую ссылаются: Way to run DeepSeek's 671B AI model without expensive GPUs discovered
https://www.notebookcheck.net/Way-to-run-DeepSeek-s-671B-AI-...

О чем это говорит, как и на 99.95% бесполезная статья выше?
О том, что для учебы, редкого локального использования, и пилотов «как это вообще живет» хватит даже не AMD 395, а любого ноутбука с хотя бы 32 Гб памяти, без видеокарты. Стопка GPU «на посмотреть» не нужна.
Про AMD 395 я уже писал
Что там в мире ИИ шечек побольше и поменьше

Последний пункт не то, чтобы жизненно необходим, но мне было скучно и я делал все в виртуальной машине.

В дальнейшем придется изучить темы Discrete Device Assignment (DDA) и GPU Partitioning

Для первого шага в мир ИИ достаточно:

1.Скачать LM-Studio бесплатно, без смс, с официального сайта: https://lmstudio.ai/download

2.Установить LM-Studio, путем нажатия запустить - далее – далее

3.После завершения установки, прямо из установщика LM-Studio, скачать google /gemma-3-4b

Все, вы великолепны, нажмите далее

Когда все загрузится, нажмите все сразу, и дайте первую команду – write bubble sort

Все, вы великолепны. Работает этот ИИ, в такой конфигурации, очень, очень скромно по скорости.

Заключение

Вы молодец, допишите в резюме «умею обращаться с ИИ».
И проследуйте читать, можно во встроенном в любой современный браузер автоматическом переводчике, инструкции:
https://lmstudio.ai/docs/app/basics
https://lmstudio.ai/docs/bionic/quick-start
https://code.claude.com/docs/ru/quickstart

Март 2026. METR. В вайб коде была обнаружена уязвимость типа «fail-open»: она незаметно отключала аутентификацию, в результате чего панель управления оркестрацией агентов оказалась открытой для доступа из публичного интернета на несколько дней.
Итог: счет в 600.000
Подробности: https://metr.org/blog/2026-08-31-security-update/

Заключение

ИИ пишет код.
ИИ не занимается, (как и вайб кодер, как и поколения макако-кодеров до него), если его специально не тыкать:
кешированием,
балансировкой нагрузки,
работой приложения в кластере,
Ограничением числа запросов, и прочими очередями запросов
Работой при таймаутах, повторных запросах, очередями недоставленных и неотработанных запросов,
мониторингом, точнее созданием интерфейсов для мониторинга, логированием, и прочим observability
блокировками в базе данных,
безопасностью..

И еще много чем, что выходит за границы идеальной работы при идеальных условиях.

Про это, и еще про будущее, Yoni Rechtman выпустил статью There will only be four jobs:

Вполне вероятно, что в технологических компаниях останутся лишь следующие категории сотрудников:
продуктовые инженеры / «вайб-кодеры» / продакт-менеджеры / «генераторы контента» (slop cannon): тут всё понятно без слов. Это специалисты широкого профиля, работающие в высоком темпе и активно использующие современные инструменты. Разумеется, они не ограничены рамками чисто инженерных или продуктовых ролей; коммерческое и продуктовое мышление может быть присуще кому угодно.

SRE, специалисты по инфраструктуре, безопасности и системные инженеры: мы будем создавать такое огромное количество продуктов и сервисов, что потребуются действительно классные специалисты, способные всё это объединить, обеспечив стабильность, безопасность и надежность системы.

«Взрослые»: иногда в коллективе нужен человек, способный трезво оценить ситуацию и сказать: «Послушайте, ну хватит уже». По сути, они выступают в роли регулятора, сдерживающего организацию, которая в противном случае рискует потерять контроль из-за слишком быстрого роста. Такие люди встречаются на самых разных позициях, но есть сферы — например, юриспруденция или финансы, — где без «взрослого» руководителя успех просто невозможен.

Привлекательные люди: эффектные, обаятельные сотрудники могут занимать самые разные должности — от продаж и HR до работы с клиентами (CX). Всегда найдется место для тех, кто олицетворяет собой «простой и приятный UX» (удобный интерфейс взаимодействия) и с кем просто приятно иметь дело. И помните: привлекательность бывает разной

Поживем - увидим, что еще сказать.

It ends up being a rather significant benefit to avoid that unnecessary work as benchmarking on a 20-core VM with a will-it-scale benchmark of opening the same file in read-only mode, the operations per second increased by 39%.

Полный текст : https://www.phoronix.com/news/Linux-7.4-Faster-Do-Open

Как постоянно и подтверждалось, больше 30 лет, с момента появления ядра, ошибки в ядре linux находили не тысячи фанатиков с заявлениями "пусть посмотрит кто-то другой", а то коммерческая разработка, то АНБ, с их прекрасной реализацией точно такой же дырищи в Linux, как в Microsoft SMB. Только Microsoft закрыла эту уязвимость.
Теперь массово уязвимости и недоделки находит ИИ. На коммерческой основе.

Оригинал:

For the current Linux 7.3 kernel many older 32-bit ARM platforms are deprecated and in turn orphaning hundreds of drivers only relevant to those out-of-date ARM platforms. The removal of that now deprecated code is planned for the next kernel cycle or two.

A lot of old 32-bit ARM code is on the chopping block after being deprecated. This is happening since a lot of this old kernel code has become a burden to upstream kernel developers in getting in the way of further code clean-ups and delivering new kernel features. While the likelihood of anyone still running a very dated 32-bit ARM platform and running a mainline, upstream Linux kernel release in 2026+ is likely very miniscule.

Arnd Bergmann sent out today a set of 13 patches dropping the deprecated ARM platforms and in turn freeing up more than 55k lines of code and Device Tree files. After that more of those orphaned drivers can be removed for even greater code savings.

Полный текст желающие найдут на phoronix

Забыты рассказы «как в Германии два раза пытались перейти на опенсорс». И сколько это стоило.
Игнорируется реальность, что даже в условиях объявленного «импортозамещения», ни о каких массовых переходах на русифицированные версии американской операционной системы, (головной офис находится в США, подчиняется законам США) речь не идет. Даже там, где это технически возможно, даже в российских облаках продолжают продавать облака на ESXi и Hyper-V.

Почему? Потому что все эти переходы, это и про деньги, и про большие деньги

Начну с более понятного, переход на Linux на личном ПК

Если у вас работа с ПК ограничивается обсуждением чего-то в интернете, просмотром видео, в том числе такого, от которого ладошки волосатые, то это можно делать с использованием ПО под Linux. Вообще без каких-либо проблем.  Современные телевизоры работают и на Linux, и на Андроид, и не знаю, на чем еще. При работе с ограниченным набором приложений – особых проблем нет.
Для РФ могут быть актуальны проблемы с замедлением ютуба.

Если вы играете в игры, вы и сами все знаете.

Если у вас ПК – рабочий инструмент, то кому как. Мне последние лет 15, если не 20, с тех пор как была в основном решена проблема с печатью и ушли в прошлое софт-модемы, все равно под чем работать. Я работаю с приложениями, и все больше с людьми, а не с операционной системой самой по себе. Сейчас на рабочих ноутбуках стоит Windows. Два ноутбука назад стоял Linux. windows вместо Macos я как-то ставил.

Переходить можно хоть сейчас, если в этом есть хоть какой-то практический смысл. Мне и лень, и не нужно. Плюсов от перехода нет, минусов ..
Минусы есть. Если на большей части стационарных ПК нет проблем со звуком и Wifi под Linux, то на ноутбуках можно отловить какие-то совсем не очевидные проблемы. Разбираться с ними бесплатно я не хочу.

Перейду к менее понятному, переходу на Linux на корпоративном ПК

Корпоративные рабочие станции, кроме фирм на 10 человек, где у всех макбуки и самокаты, требуют единообразия в управлении. Одна точка проверки входа в систему (SSO), один центр управления конфигурациями, единый контроль систем – антивирус, DLP, прочие корпоративные системы. Центр обновления. Центр управления приложениями. То есть все то, что к Windows среде решается через AD, GPO, WSUS (deprecated), SCOM, SCCM, SCVMM, SCDPM, MDM, Entra ID, и так далее.
Схожие системы есть, например IBM Tivoli Directory Server. Стоят дороже, распространены меньше. Меньше распространения, значит меньше людей на рынке, дороже экспертиза.

Корпоративные рабочие станции, кроме фирм на 10 человек, где у всех макбуки и самокаты, требуют единообразия в работе со стандартными приложениями, и, в первую очередь, с печатью. И на этом месте вылезает огромнейшая проблема с форматами. ODF и прочие форматы до сих пор совместимы друг с другом очень условно. Простой текст, без сложного форматирования, открыть можно. Презентацию с эффектами или табличную систему с интеграциями перенести между Open office и чем угодно – сложно. Перенести Excel с формулами, макросами и интеграциями – задача на уровне «столько бюджета на перенос табличек у нас нет». По MS Excel (VBS , VBA) и до сих пор используемым базам в Access экспертиза на рынке есть. Перенести интеграцию Excel с локальными базами данных на облачные решения можно, но долго, дорого.

Корпоративные рабочие станции, кроме фирм на 10 человек, где у всех макбуки и самокаты, требуют поддержки. В виде сотрудников, которые могут выполнить какие-то простые действия в известной им графической среде. Можно ли переобучить сотрудников технической поддержки на поддержку Linux ? Можно. Это даже будет какое-то время работать. Пока случайное обновление одной библиотеки не вызовет сбой драйвера звука. И не обновлять было нельзя, и обновление проходит не всегда просто.
В Windows можно пойти и почитать список известных проблем для обновлений, от вендора и на форумах. Если не лениться, многие ленятся даже читать, и этим гордятся.
В Linux для проблем серьезнее, чем те, что можно решить перезагрузкой, нужен strace или очень недешевая поддержка вендора.
Для случаев, чуть сложнее «просто перезагрузите», в Windows есть простой и понятный Process monitor. Для Linux он тоже появился. От Microsoft
https://learn.microsoft.com/en-us/sysinternals/downloads/procmon

Стоимость поддержки

Многие очень удивятся, но поддержка рабочих станций для linux стоит дороже. Потому, что для качественной поддержки в корпоративной среде вам придется выделять рабочие станции для проверки типовых обновлений. В Windows у вас есть «точки отката», режим безопасной загрузки, загрузки последней удачной конфигурации, режим автоматического отката обновлений.

Linux как среда для запуска control plane

СПО-сектанты записывают в Linux все подряд, лишь бы были белые буквы на черном экране. Но при этом Cisco IOS не была Linux, ESXi  до сих пор не Linux, Fabric OS перешла на ядро linux, но настолько не Opensource, что вы удивитесь при знакомстве. Сетевое и телекоммуникационное железо может работать на любой минимально требующей ОС, поэтому ничуть не удивлюсь, если на телеком оборудовании через 3-5 лет будет стоять не Linux , а HarmonyOS. В 2015 году, многие удивятся, на телеком оборудовании зачастую стоял ESXi.
Это тот случай, когда гордиться победой корпоративного рынка можно, но не понятно чем именно. Менеджмент корпорации посчитал, что так будет дешевле, чем поддерживать свою ОС. И сделал. Или посчитал иначе, и получил Harmony OS.

Промышленное оборудование, от томографа до турникета, и банкоматы тоже

Для многих сектантов будет удивительно узнать, что там зачастую до сих пор стоит Windows в режиме киоска или Windows embedded. Но такое оборудование не подключено в общедоступные сети, и никак не учитывается в статистике, кроме статистики продаж Microsoft.

И, наконец, про финансы

Поддержка рабочих станция стоит определенных денег на зарплату сотрудников

Переход на Linux как среды для запуска браузера, минимального текстового редактора, минимального почтового клиента, обрезанных таблиц, какой-то системы созвона, и так далее, как разовая акция без дальнейшей поддержки, возможен.
И даже где-то произведен. И даже работает. Причем работает уже 10-15 лет. В 2015 году было сложнее, сейчас проще.

Главное не вдаваться в подробности, например:

Отличия версии для Linux от версии для Windows
Ограничена функция печати обследований на принтере A4 из-за особенностей системной утилиты Linux. Для печати необходимо использовать функцию экспорта обследования в PDF файл с последующей печатью PDF-файла.
Ограничен экспорт отчетов в форматах DOC и RTF. Отчеты можно сохранить в формате PDF.
Ограничен экспорт в файл результатов автоматических измерений.
Ограничена печать на мобильном принтере.
Ограничена поддержка методики спирометрии.
https://micard.ru/novosti/vypushhena-programma-dlya-linux

Заключение

Переход Windows – Linux для рабочих станций возможен, если есть бюджет и много желания.
Просто долго, дорого, и эксплуатация суммарно будет дороже.
Без бюджета система может перейти разово, и застыть в текущем состоянии, без обслуживания и поддержки. Таких копролитов полно