Вкатываемся в ИТ – 2026. Часть 6. Серверные потрошки -2
Для ЛЛ: Системное администрирование – это про управление сервисом, а не только про мегагерцы, ключи реестра, и / sys/fs/cgroup/ .
Для начала, ответы на некоторые комментарии. Комментаторы, зачастую, как раз демонстрируют людей, которые .. ну, что-то знают, но скорее демонстрируют остаточные знания.
Сервер не отличается от десктопа принципиально, ни с точки зрения дизайна, ни с точки зрения компонентов. Там точно такой же импульсный блок питания (бывает два, бывает четыре, в блейдах и шесть бывает). Там точно такой же кремниевый процессор, потребляющий электричество. Там точно такие же x86 инструкции в процессоре. (если речь не про ARM или POWER).
Конечно, там отличается качество компонентов, но оно и в десктопе на дешевой и дорогой материнке разное.
Конечно, там слоев в плате больше.
Конечно, там чуть другой объем памяти в процессорных кешах L1 и L2, так эта память и в десктопе есть.
Конечно, есть «рабочие станции на 2 процессора», где даже Киберпанк идет на мааксимальных настройках и не тормозит (со слов владельца, в интернете же врать не принято).
То же самое касается «как бы резервирования на уровне серверов». Часть компонентов может быть зарезервирована, но материнская плата одна, и с качественно вышедшим из строя процессором или памятью сервер точно так же не запустится. Резервирование существует, но горячая замена касается почти всегда только блоков питания и дисков, и то – если эти диски стоят в передней панели, а это не всегда так.
И то, вменяемый инженер эксплуатации в вменяемой организации сначала выведет нагрузку с сервера «под ремонт», а то в теории то оно «горячей замены», а на практике эксплуатации дернет не тот блок питания, где лампочка красная, а тот, где зеленая, и ОЙ. А потом еще и соседний дернет.
Лучше всего себя показывали сервера одного .. производителя, которые в теории были с горячей заменой блока питания, а фактически - нет.
Что же касается «многозадачности», то тут тоже есть масса мифов и легенд. Да, локальные кеши в случае исполнения программ в одной среде, могут добавить производительности. А могут и не добавить, если программа написана через Ж, а ускорение процессоров достигнуто с использованием очень небезопасных спекулятивных предвычислений. CVE-2018-3646 speculative execution side-channel vulnerability уже забыт, хотя кто-то о нем и не знал.
То же самое касается и мифов про «адовую работу 24*7*365». В огромной куче железа были баги, приводившие к переполнению внутренних счетчиков, памяти, с последствиями – ребут «просто так». Все эти истории про «супер надежные сервера по сравнению с десктопами», где сравнивают самую дешевое домашнее железо с ультра говно компонентами, и хоть как-то, не на коленке, сляпанные платы.
Особенно ярко уровень говнизма проявляется в нонейм серверах, в 2015-2020 году у некоторых так ярко горела жопа, от китайского нонейма, что днем и ночью освещало все Румянцево.
Говоря про серверные потрошки (исключая подсистему хранения данных, и локальную и сетевую), нужно обратить внимание на следующие вещи, постоянно игнорируемые.
1 Сервера – это не «вещь в себе». Они существуют для выполнения конкретной задачи бизнеса – что-то посчитать, или что-то хранить, и потом показать. За что, в итоге, заплатят деньги. Поэтому с точки зрения бизнеса это «черная коробка, которая работает». Бизнес не очень интересует, что там внутри. Если задачу можно решить на десктопе – давайте ее решать на десктопе. Если задачу можно решить костылями, и изолентой, но сейчас – давайте решать ее сейчас.
Если сервер 5-10 летней давности «работает», а ИТ шник не может обосновать время простоя и стоимость простоя – значит, пусть работает.
Системное администрирование (а не тыкание палкой в кнопки) начинается с момента, когда ИТ шник может обосновать, ЗА ЧТО ТАКИЕ ДЕНЬГИ платятся за железо и ОС.
В комментариях последние лет 30 время от времени возникает бурление «вендекапец, опенсорс захватит мир».
При попытке уточнить, насколько Микрософт (Гейтс, Баллмер, Наделла) страдают от того, что Вася из Зажопинска или Кумар из Инфакапинска который год не стал покупать Винду «Корп про ультра адвансед», а поставил себе Ubuntu, в ответ начинаются рассуждения про долю рынка, без указаний, приносит ли этот рынок какую-то прибыль.
С использованием решений из веток и коричневого пластилина та же история. Продажи на мало рентабельном рынке – очевидно, мало рентабельны. Поэтому настороженно относитесь к энтузиастами «да сейчас мы все тут быстренько на опенсорс переведем, и всем утрем нос». Дело не в том, что они плохие энтузиасты. Дело в том, что они считать управленческий учет не умеют и не хотят. Например, не хотят, и не будут рассматривать сценарий «что будет, если энтузиаст завтра на улице встретит высококвалифицированных специалистов, и в его доме будет играть музыка». Что делать бизнесу с унаследованным набором костылей.
Коммерческие решения – это не про «лучше хуже», а про «предсказуемое в эксплуатации относительно поддержки и наличия кадров на рынке».
То же самое касается рынка серверов класса А, класса Б, класса Г. И те, и другие решения, работают на одном наборе компонентов, с почти одним эталонным дизайном плат, итд.
Отличия между HPE, Supermicro, и, скажем, решениями от Гигабайт
https://www.gigabyte.com/Enterprise/Rack-Server
Не в области «скорости», а в области надежности за 5 летний срок, условиях управляемости и гарантии.
Пока вам надо управлять одним сервером, вы это можете делать и руками. То же самое касается двух, четырех. Где-то на 10 уже хочется автоматизации, на 20 она уже необходима. Потому что вам нужен мониторинг, управляемость, итд. И нужны условия поставки и гарантии.
Почему это важнее скорости? Потому что на уровне «есть 20 серверов» вы начинаете работать с бюджетами закупок, и вам удобнее, и бизнесу удобнее, заложить в бюджет стоимость эксплуатации, в виде сервиса на 3-5 лет. Это стоит «каких-то денег», но убирает проблему «нет запчастей, согласование закупки 3 месяца». То есть, снижает время простоя с месяцев до 1-2 бизнес дней.
В особенности это касается «старой» техники. С одной стороны – он она, стоит, и 10 лет назад она была «огого». С другой стороны – запчастей к ней можно не найти. Перестали выпускать.
Можно сказать иначе. Существует баланс «цена людей – цена железа». Если у вас цена «ручной» эксплуатации ниже, чем цена автоматизации – бизнес будет сидеть на «ручной» эксплуатации. Дешевые квалифицированные кадры давно вымерли, но никуда не делись дешевые и мало, но достаточно для таких задач, квалифицированные кадры.
Можно посчитать такие сценарии в цифрах.
Рассмотрим парк из 20 серверов по 10 миллионов рублей. Ну такие, простенькие, начального уровня. 200 миллионов рублей.
Сервисный контракт на первый год будет стоить, например, 10% их стоимости в год. 20 миллионов рублей.
Вася, обученный менять диски и память, и способный получить и отнести счет в бухгалтерию на оплату, будет стоить в Москве – 150 на руки, 250 с налогами, 3 миллиона рублей в год.
Еще 10 миллионов заложим на риски выхода из строя целого сервера. Не на закупку, просто в бюджете выделим.
Вася и склад запчастей выгоднее, чем сервис, на 20 миллионов сервиса - 13 миллионов без сервиса = 7 миллионов рублей.
Возможный простой в месяц (на срок закупки) при том, что сам по себе сервер прибыли не приносит, стоит от 0 (он же ничего не потребляет) до 10% от годовой стоимости эксплуатации (при простое в месяц). Если простой не стоит денег, то и не нужен вам сервисный контракт.
Что же касается технической части обслуживания серверов, всех этих гигагерцов и так далее, то этому можно обучиться где-то за 1-2 дня, если есть желание, умения читать, и руки не крюки.
Есть бесплатный онлайн симуляторы всего, хотя и видел такие только от Huawei (В 2021 году Huawei, будучи под санкциями США, выделил независимое бизнес подразделение xfusion, которому в 2022 году передал производство серверов. Теперь это xfusion) .
Компания xFusion Digital Technologies Co., Ltd. (далее — xFusion) приняла на себя направление бизнеса по производству серверов на базе архитектуры x86, ранее принадлежавшее компании Huawei Technologies Co., Ltd. (далее — Huawei). Компания xFusion будет обеспечивать поддержку существующих серверных продуктов Huawei (x86). Однако это не означает, что xFusion каким-либо образом связана с Huawei.
xFusion Digital Technologies Co., Ltd. (hereinafter referred to as xFusion) has undertaken the x86 server business of Huawei Technologies Co., Ltd. (hereinafter referred to as Huawei). The existing Huawei x86 server products will be maintained by xFusion. However, this does not mean that xFusion is related to Huawei.
Это взрыв-схемы серверов, симуляторы BIOS, iBMC, и симулятор системы управления блейд корзиной. Ссылки смотрите ниже.
Но в них копаться интересно первые 2-3 дня. Потом настроил и забыл. Обновил и забыл.
Обновлять их, кстати, тоже надо. Уже неоднократно были атаки следующего вида:
1 Злоумышленники просачиваются в контур организации.
2 Злоумышленники обнаруживают не контролируемый, не прикрытый вход в IPMI в общей сети.
3 В IPMI были дырки (там обычный дырявый старый Linux), позволяющие получить доступ к удаленному управлению клавиатурой, мышкой, и монтированию загрузочного диска.
4 Дальше все примитивно. Монтируется загрузочный диск с вредоносной нагрузкой, система перезагружается с диска, данные шифруются или удаляются.
Пополняемый список (по мере написания постов) литературы для обязательного чтения
Читать первые 3 пункта именно в таком порядке, по мере выхода книг. Остальные читать в любом порядке.
«Мифический человеко-месяц, или Как создаются программные системы» (англ. The Mythical Man-Month: Essays on Software Engineering)
Deadline. Роман об управлении проектами
Проект феникс. Роман о том как DEVOPS меняет бизнес к лучшему
Intel Ultra Path Interconnect
AMD Infinity Fabric
ECC memory
Intelligent Platform Management Interface
Non-uniform memory access (NUMA)
NUMA Deep Dive Part 4: Local Memory Optimization
Ресурсы ниже могут быть не доступны из РФ, за что вы знаете, кому сказать спасибо
xfusion Hands-on Experience
xfusion FusionServer 2288H V5 3D model
Huawei
The 3D Experience Center provides new hardware simulation for interactive experience, which supports all-round demonstration of hardware components and manual disassembly, providing details on the internal structure. You can access it as follows:
Visit Huawei Data Storage Infocenter (https://info.support.huawei.com/storage/#/home).
In the 3D Experience Center area on the home page, click Explore hardware.
Select OceanProtect Backup Storage.
Select the desired product model.
Select the component you want to view.
(Video) FusionServer Pro 2288H V5 Server Hardware Installation and Parts Replacement 11
Заключение
Как легко заметить, проблема в работе с серверами не в знании материальной части. Проблема в том, что люди с опытом в индустрии «в годах» зачастую (слишком часто) сами не понимают, что говорят, и с чем имеют дело.
И, соответственно, отсюда следующая проблема: зачастую эти люди, в силу возраста, задают вопросы на интервью. Можно на них отвечать правильно, и не пройти тест. Можно отвечать «как они хотят слышать, как они считают правильным».
Все, как в школе - преподаватель несет [] про плотоядных коров, надо соглашаться.
Особенно ярко это проявляется в позициях «патчи не нужны» (с итогом: почему все тормозит и почему все пошифровало), и «железо не надо менять, пока не сгорит» - с последующими лихорадочными закупками, когда все сгорело, и не работает.
Отдельно надо отметить героическое преодоление собственноручно созданных проблем, и гордость за это.
И особую внутренняя гордость за допуск к работе с Настоящим Серверным Железом, Целых Пять Серверов Супермикро.
Примечание. Аудировали как-то коллеги такую фирму. Три стойки .. набитые настолько устарелым железом, причем наполовину мертвым, что в итоге их заменили два сервера посовременнее. И бесконечная гордость "да что эти мааасквичи понимают в героической многолетней постройке костылей на изоленте".
Лига Сисадминов
2.7K поста19.2K подписчика
Правила сообщества
Мы здесь рады любым постам связанным с рабочими буднями специалистов нашей сферы деятельности.