Лига программистов

С учетом того, что сейчас такой недостаток специалистов, любой опытный человек заработает себе как минимум несколько офферов и уже из них будет выбирать лучшее для него по финансам\условиям на проекте;

3️⃣ Когда ты выбираешься за рамки сеньора и внутри компании тебе некуда расти - ты грустишь.

Потому что прям ОЧЕНЬ интересных предложений на рынке мало и ты такой их перебираешь: ага, ну опять сеньор на финтех, скука; и вот тут предлагают сеньора на финтех - эх, тоже скука; может хоть тут? А нет, вообще какая-то ерунда типа gambling, хоть и с очень большими деньгами. Но об этом чуть позже, тут мне есть что рассказать;

4️⃣ В плане финансов тоже особо ничего не изменилось в среднем, вилка как была год назад, так и осталась, тут никаких неожиданностей. Хотя ряд предложений на обычные сеньорские позиции меня очень приятно обрадовал и даже немного удивил$

5️⃣ Для рядовых позиций тоже не очень изменилась ситуация.

Однако, (субъективно, исходя из наблюдений за своими менти), мне показалось что количество конкурентов среди людей без опыта стало меньше. То ли поток обучающихся на массовых курсах стал меньше, то ли количество компаний ищущих себе джунов стало больше, то ли мне просто так показалось - но вот делюсь.

Если подытожить, глобально ничего не поменялось за +\- год, с того момента как я последний раз делал срез. Если вы опытный человек, вы можете найти работу на почти любом проекте линейным аналитиком без проблем. Если вы начинающий, вам все также придется постараться, чтобы пробиться сквозь барьер из конкурентов и попасть на первую работу, но при грамотном подходе, терпении и определенном количестве времени, все более чем возможно.

А, еще момент, тоже субъективный: в целом собесы стали еще строже в плане проверки тех. скиллов и вашего опыта. Вопросы стали более комплексными и глубокими, их вариативность стала больше и больше практических задач, над которыми надо подумать в онлайне. И, как минимум, один вариант из-за чего это может быть у меня есть - расскажу отдельно.

P.S. Спасибо большое тем людям, которые тыкали в меня палочкой (не знаю, что за функционал на Пикабу, но мне приходили уведомления, что от меня жду постов оО).

Если есть вопросы - где меня найти, вы знаете.

Специально для пикабушников застройщик Level Group дарит промокод на скидку 1%! Все подробности смотрите здесь.

Выбирайте квартиру мечты в Level Селигерская и наслаждайтесь комфортом на новом уровне.

ВЫБРАТЬ КВАРТИРУ

Ну и дальше понятно, 9х9х9 шестизначных и семизначных, и так далее.

Тут можно вывести, наверное, функцию, которая по вводному числу n математически определяет, в какой бакет оно попадает, то есть сколькозначным будет. Но мне лень думать, поэтому я опираюсь на то, что n, наверно, будет ограничено, скажем, 2^32, то есть в реальных условиях я бы это ограничение знал просто по типу переменной, а это значит, что максимум мои декадные числа могут быть примерно 20-значными (тех будет 9^10), поэтому я реально могу в своей программе вначале посчитать микрорадужную таблицу из двадцати элементов, каждый из которых будет давать границу бакета, то есть сумму предыдущих количеств декадных чисел. Первый элемент будет 1, второй 10, третий 19, четвертый 100, пятый 181, и так далее, до двадцатого.

А если бы это были не реальные условия, а яйцеголовые в башне из слоновой кости, то есть якобы надо было бы обработать входной параметр какой угодно разрядности и величины - ну тогда да, вывел бы я эту математическую функцию, это вообще легко, только думать лень. Удвоенная сумма геометрической прогрессии там, плюс единица, это границы бакетов, и че-то надо прологарифмировать во входном параметре - короче, у меня бумаги нет, и ручки нет, я в голове это решаю, не хочу тут ковыряться, но знаю, что легко.

Ну вот, определили мы бакет. А что дальше? А теперь я вычитаю из входного параметра число находившихся во всех прошлых бакетах декадных чисел и получаю порядковый номер числа в этом бакете, которое мне надо вывести.

Например, входной параметр 204. Пробегаем по радужной таблице, и она нас направляет в шестой бакет, потому что в первых пяти суммарно 181 декадное число. И в этом бакете нам нужно разыскать 23-е по порядку шестизначное декадное число.

А как же мы будем это делать? Неужели считать еще одну радужную таблицу по заветам дауничей?

Нет, не будем, мы это число способны мгновенно указать: 133668.

Потому что они там идут так: 111888, 112788, 113688, 114588 и так далее. То есть первые три цифры в 23-м по порядку числе - это 110+23=133. А вторые три цифры ими определяются.

Это в бакете с четным числом цифр, а для нечетных ничего не меняется, только 5 в середине: в седьмом бакете 23-е по порядку число - это 1335668.

То есть понятно, да? Номер бакета, поделить пополам, взять целую часть. Это число цифр в левой "половине". Конструируется число вида 1111..1110, с таким же числом цифр. К нему прибавляется остаток порядкового номера, полученный из входного параметра. И это левые цифры. По ним строятся правые. Если номер бакета нечетный, то еще пятерку в середину вставить. И это и будет искомое декадное число.

Опять же, решал в голове, мог где-то ошибиться.

Не программист ни разу. Математик.

В этот раз я обучил параллельно на двух GPU, для этого я задал новую конфигурацию моей Виртуальной Машины - две NVIDIA A100.

Я воспользовался инструментом axolotl, который позволяет быстро сконфигурировать и запустить сессию обучения.

Мой конфиг axolotl здесь.

После установки axolotl, которая описана в документации, остается только запустить обучение командой:

accelerate launch -m axolotl.cli.train config.yaml

Accelerate - это Huggingface библиотека для распределенного обучения.

axolotl запустил два параллельных процесса с шардами модели для каждого из двух GPU. Обучение на одну эпоху длилось около часа, итоговый train loss - 0.8.

Результат превзошел мои ожидания - третье место в mt_bench:

Моя модель превзошла llama-3-8b-instruct и большинство версий Suzume, кроме самой сильной из них. Это на англоязычном бенчмарке.

Теперь - результат ru_mt_bench:

Моя модель получила оценку 8.12, немного не дотянув до Suzume и превосходя gpt-3.5-turbo, у которой 7.94.

Это очень многообещающий результат, здесь можно сделать несколько выводов. Во первых, мой датасет в восемь раз меньше, чем Tagengo, а значит, обучение обошлось гораздо дешевле, чем Suzume - всего-то два GPU часа.

Я не увеличивал англоязычную выборку в своем датасете, там всего тысяча примеров на английском, а англоязычный MT Bench неожиданно показал среднюю оценку 8 баллов. Это значит, что добавление большего количества качественных мультиязычных данных повышает общее качество модели, а не только ее показатели для этого конкретного языка. Эта эффект уже был показан в статье Петера Девина - Tagengo: A Multilingual Chat Dataset

Я очень рад, что мне удалось наблюдать реализацию этой идеи на практике. Мой датасет, веса модели, а также файлы в формате GGUF опубликованы в моем Huggingface аккаунте.

Модель: https://huggingface.co/ruslandev/llama-3-8b-gpt-4o-ru1.0

GGUF: https://huggingface.co/ruslandev/llama-3-8b-gpt-4o-ru1.0-gguf

Датасет: https://huggingface.co/datasets/ruslandev/tagengo-rus-gpt-4o

Постепенно я рос, задач полезных и бесполезных становилось больше. У нас появился отдел системных администраторов. Причем выездных администраторов, они гоняли по разным фирмам, настраивали сети, 1с-ки, почтовые сервера и антивирусы. Я заметил интересную особенность, когда появлялся новый клиент и нужно было внедрять ему правильную технологию после старого уволившегося администратора, то у меня сразу прибавлялось горящих задач, не связанных напрямую с этой фирмой. Просто нужно было разгребать чуть больше геморроя в разном программном коде.

Сначала я думал, что это совпадение и просто быстрее стучал по клавиатуре, закрывал дедлайны и слушал гневные отповеди босса, если опаздывал со сроками.

Потом, когда волна этих непонятных задач стала четко коррелировать с появлением новых клиентов или же большими поломками у клиентов, я стал задумываться, а не связано ли это каким-то непонятным для меня образом?

Что если я выполняю функцию какого-то центрального процессора, который должен выполнять элементарные операции, а в это время высокоуровневые задачи самой компании чудесным образом решаются? Причем, часто было абсолютно пофиг, исправляю я баг в работающей системе или же пишу какую-нибудь неведомую обработку данных, которые нужны раз в год. Мне просто нужно было усиленно думать и решать.

Немного приоткрылась завеса тайны, когда в мой небольшой отдел наняли еще одного программиста, мне в помощники. Сначала я объяснял ему, что он может сделать, чтобы вместе быстрее решить задачу. После того как он принимался за работу, на меня нападала такая адская жажда улучшить свой код и исправить давно протухшие баги, до которых руки не доходили, что мне ничего не оставалось, кроме как сделать это. Ощущение будто все эти задачи материализуются и уже не просто записи в таск-трекере, а вполне материальные проблемы.

Эврика

Ага, вот оно что. Вот как строится иерархия и держится субординация. Если есть твой подчиненный, то ты можешь делегировать ему исполнение задач. Когда подчиненный исполняет эту задачу, то ты получаешь профит от этого выполнения. Если бы на месте программиста был дворник, то в результате его работы мы получили бы чистоту во дворе. Но программист – это работник интеллектуального труда и в результате его работы мы получаем чистоту разума. От этой чистоты и порядка мы четче можем видеть все недостатки, которые раньше не замечали. Программист, когда берет на себя решение наших задач, позволяет нам очистить внутри нашего сознания место под новые задачи. Поскольку мы явственно понимаем, что думать про это не нужно, решает другой. На место такой задачи можно поставить новую. Так мы усиливаем наши способности по вычислению.

Вернемся к нашим администраторам, которые настраивают Windows в бухгалтерии клиента. Наверняка, у него возникают самые разные трудности: драйвера не ставятся, сеть не ловит, картридж у принтера закончился. Все эти задачи он может решить самостоятельно, но было бы здорово, если бы кто-то за него постоянно додумывал. Чтобы администратор чудесным образом нажимал все кнопки интуитивно и у него все заводилось с первого раза. Вот этим чудесным решателем и выступает программист, которые ловит непонятным образом такие задачи от администратора и решает их в виде хитрого кода. Непонятность скорей всего укладывается в иерархическую структуру компании и подчинение одних сотрудников другим. Ну так, видимо, устроены человеческие существа. Вероятно, такой же принцип в обычной армии, есть рядовые, есть сержанты, а есть офицеры. Исполняешь честно свой долг на любом из уровней, и вся система работает. Будь вас хоть миллион.

Вывод

Отсюда можно сделать вывод, почему часто задачи и проекты после, казалось, бы успешного кодирования уходят на свалку, а вас так и не увольняют. Просто вы (программисты) нужны вовсе не для создания проектов, вы нужны, чтобы генерировать решения и снабжать эфир этой правильной энергией, чтобы другие могли ей пользоваться и быстро решать свои собственные задачи.

А успешные проекты, это как побочный продукт. Просто получается, что совокупность ваших решений удачно вписывается в некий паттерн, который можно использовать много раз. Так появились программные продукты: Windows, Linux, Word, Excel и другие.

P.S.

А наш босс хитрый тип, он прекрасно понимал этот принцип передачи ответственности. Нагружал нас с утра, а сам ехал проворачивать свои сложные проекты: ремонты квартир, покупки автомобилей, оформление ипотеки с выгодными условиями. Потому что энергию решений наших решений можно и нужно было использовать на всю катушку.