romanzharenkov

Сравниваем бондинг и айфон для офисных нужд

Надавно, на выездах к клиентам в Москве, я решил посравнивать интернет на бондинге и на айфоне. Оказалось, что айфон это достойная альтернатива интернету с 4х модемов.

Часто на правильной симке айфон выдает отличные скорости до 250 Мбит/с, а сумматор в среднем 60-70 Мбит/с.

В связке с хорошим WiFi роутером получается просто отличное решение для офиса.

Но офисный интернет с айфона подойдёт не всем из-за низкого Upload

Например, у него хорошие скорости на download, но upload часто даже хуже, чем на самом простом свистке Huawei 4й категории.

Также у него не будет статического ip адреса, что часто бывает необходимо для внутренних сетей.

Сумматор на 4-х модемах - также есть плюсы и минусы

• больше стабильности - так как трафик распределяется между всеми модемами

• больше трафика - так как используются сразу 4 сим-карты

• меньше скорости - так как 4 категория у Huawei E3372h-153

• 1 статичный ip

Мы клиентам начали предлагать и то, и другое и пока вроде все отлично работает.

Сегодня я всю ночь я тестировал и внедрял эту нашумевшую O1 Preview от OpenAI в бота.

Она умопомрачительно хороша. Легко решает задачи по матану и общефизу 1-2 курса технических вузов. Школьные задачи в основном тоже.

Чему равен икс в уравнении x^x = 2^2048? А корни кубического уравнения? А сколько зеленоглазых мудрецов сбежали с острова?

На эти вопросы буквально за минуту отвечает O1-preview.

1/3 - ChatGPT неточный. Заставь его рассуждать и почти "мыслить".

В общем, на днях я сделал бота решателя домашек и долго думал, как все же заставить его решать задачки на университетском уровне.

Хотелось, чтобы он решал задачи с условного 1 курса матана и физики.

После нескольких ночей тестов понял, что очень решают твои последовательности промптов и то, как ты заставляешь сетки думать, создавать цепочки рассуждений, оценивать их и выбирать правильное решение.

Как я понял, вот этот "процесс мышления" который я пытался автоматизировать и есть примерно тот самый Reasoning от новой сети OpenAI. Только у них это сделано профессионалами.

Ну и конечно же, как только она вышла, я прикрутил её к боту.

2/3 - Вообще, существующие нейросетки уже хорошо справляются со школьными задачами

На школьном уровне, особенно до 9 класса хорошо работают почти все флагманские сети gpt4o, gemini pro 1.5 и claude sonnet 3.5.

Хорошая серия нужных промптов решает многие задачи по научным предметам. И рвет гуманитарные предметы.

На lmarena.ai можно посмотреть текущий Эло рейтинг сеток и узнать что круче всего подходит для ваших задач.

3/3 - С какими задачами круто справляется новая сетка O1 Overview

Вычисляет не самые простые производные:

Пример решения в Карусели: очень разумные последовательные шаги. Поразительно, что это все делает нейросеть.

Просто класс. Еще и ответ совпадает с правильным.

Кстати, круто что в боте решения получаются также в красивой Latex разметке в webapp - пришлось постараться, чтобы ничего не съезжало.

Также:

1) O1 берет несложные интегралы

2) Вычисляет пределы, решает диффуры

3) Может ответить на несложные головоломки

4) Думаю еще много чего

Потестировать можно в тг @super_botan_bot

Коротко

Вечером я изучал новые ИИ технологии от OpenAI и быстро сделал астробота.

Про что пост

1. На выходных изучал продукты от нашумевшей компании OpenAI

2. Понял, что ее нейросеть может давать классные прогнозы на жизнь, интереснее и точнее, чем существующие гороскопы

3. Решил запилить простого телеграм бота t.me/lila_daily_bot

Нейросеть от OpenAI просто фантастически хороша

• Вы уже наверняка наслышаны про ChatGPT - эта штука умеет отвечать почти на любые вопросы, писать код, переводить, советовать книги, писать сценарии и так далее

• Теперь можно использовать программные продукты OpenAI и API в разработке своих продуктов

• То есть невероятно креативную нейросеть можно использовать по запросу в любой момент, и быстро получать супер ответ, который человек бы генерил тебе несколько часов

и поэтому

конечно же

я подумал что будет неплохо

ГЕНЕРИРОВАТЬ АСТРО ПРОГНОЗЫ

и получилось совсем неплохо!

Какие технологии я решил использовать

• GPT3.5

• Запросы переводятся на английский и скармливаются нейросети

• Нейросеть на английском генерирует прогнозы и ответы на твои вопросы

• Онлайн-переводчик переводит обратно на русский

• Нейросеть "улучшает" перевод и исправляет разные систематические ошибки

• Телеграм бот возвращает ответ/прогноз пользователю

Прикольно, что чем больше даешь ей информации о себе, тем качественнее и интереснее получаются ее прогнозы.

Также она рекомендует лучшие практики из психологии, медитаций, спорта и тп и старается, чтобы это было как-то связано с тем, что тебе интересно.

Короче пробуйте, может понравится :))

В прошлом посте я рассказывал про сумматор интернетов. В этой расскажу как мы делали первую партию и обновляли железо. Как мы начали использовать Cat6 модемы, написали свое суммирование, обновляли корпуса.

В Москве и Санкт Петербурге до сих пор много мест, где LTE - это единственная адекватная возможность иметь выход в интернет.

Коробка-сумматор везде ведет себя по-разному. Средняя скорость коробки по Москве днем в зависимости от локации 50-80 Мбит/с. В хороших локациях скорость доходит до 150 мбит/сек. В целом бывают места с очень хорошим и очень плохим LTE покрытием. Поэтому в Москве мы всегда выезжаем к клиенту, чтобы подобрать оптимальные симки и оптимальное расположение коробки для наилучшего интернета.

Сумматор почти везде очень хорошо работает на аплоад, поэтому клиенты, которые занимаются трансляциями, нас любят чуть больше остальных. Также как и компании, которым нужно много и быстро загружать что-либо в интернет.

1. Как мы начали использовать Cat6 модемы

В первой версии сумматора мы использовали модемы Huawei e3372h-153 c LTE модулем 4й категории (Cat4). Правда с ними возникли сложности: они стали сильно дорожать, и их осталось мало на рынке. Если в августе 2020 года мы покупали их за 2800 рублей за штуку, то в ноябре 2020 они стоили 3300 рублей за штуку. А сейчас оптовые цены на них 3700-4000 рублей за штуку. Поэтому мы решили использовать другие модемы. Нам приглянулись LTE модули более высокой, шестой категории. Наш R&D занял примерно месяц, еще 2 месяца на то, чтобы приобрести модемы в необходимом количестве и сделать партию сумматоров.

Для того, чтобы LTE Cat6 модули работали лучше, чем Cat4, нужно чтобы базовая станция поддерживала агрегацию частот, а модем был способен агрегировать эти полосы. Это до сих пор происходит не везде, даже в Москве и Питере.

Обычно с новыми LTE модулями скорость сумматора получается в 1.5 раза большей, чем с модемами Huawei.

Тем не менее, мы заметили, что Cat4 модемы Huawei выдают лучший upload, чем Cat6 модемы. Поэтому тем клиентам, кто занимается трансляциями, мы предлагаем чаще сумматоры с начинкой из Huawei.

Так выглядит начинка с новыми модемами: модемы через M2 интерфейс подсоединяются к специальным USB адаптерам и затем к USB-хабу, а сам хаб подключается к Raspberry.

Что такое Cat6, Cat9, Cat12 LTE модемы и почему они крутые?

Это более высокая категория модемов, которые умеют извлекать максимум из LTE-Advanced сетей, поскольку они работают сразу в нескольких частотных диапазонах.

LTE cat.4 устройства, которые в данный момент наиболее распространены работают только в одном диапазоне частот и скорость зависит от "ширины" диапазона.

Например:

полоса 5 МГц — 37 Мбит/с на получение и 12 Мбит/на передачу

полоса 20 МГц — 150 Мбит/с на получение и 50 Мбит/на передачу

В сетях LTE-Advanced (LTE cat.6, LTE cat.9 и т.д.) происходит агрегация каналов на разных частотных диапазонах, таким образом достигается существенный прирост скорости 4G LTE. К примеру, если сложить полосу 10 МГц из одного диапазона и полосу 20 МГц из другого диапазона, получим полосу 30 МГц и скорость 225 Мбит/с.

По сути, чем выше категория модема и сотовой вышки, тем на большем количестве частотных диапазонов они работают "общаются" и тем шире получается суммарный интернет канал.

Кстати, если у вас последний iPhone или флагманский Samsung, Huawei, Mi, то у вас внутри телефона находится LTE модуль самой высокой категории. Поэтому в Москве/Питере используя правильную симку во многих местах вы сможете выжать больше 100 Мбит/сек на телефоне. А то и все 200 Мбит/сек.

2. Разработали собственное суммирование с функцией дуплицирования пакетов для улучшенных видеозвонков

В первой версии сумматора мы использовали openmptcprouter для суммирования каналов. Но к сожалению он работает неидеально в ряде случаев. Поэтому мы решили написать собственное суммирование.

Наше решение является некоторым аналогом multipath tcp, но без ретрансмиссий — предполагается, что это делают более высокоуровневые протоколы. В процессе использовали наработки по multipath quic — прототип этого протокола написан на go, причем код достаточно легко было встраивать в наш проект.

Для менее надежных соединений мы предусмотрели функцию дуплицирования пакетов (вместо суммирования). Решение нацелено на то, чтобы стабилизировать и улучшить качество соединения для видеозвонков и трансляция путем посылки каждого из пакетов сразу по нескольким каналам.

MVP сделали, но большого выигрыша по сравнению с 1 модемом нет: все программы для видеозвонков автоматически подстраиваются под скорость канала, поэтому в итоге важно только то, насколько хорошо работает самый быстрый из них — а если он лагает, то пользователь все равно ощущает задержку. Поэтому пока мы решили свернуть разработку. Кстати, если кто-то знает, кому это можно продать задорого, welcome.

Пока продолжаем делать решение на стандартном openmptcprouter с нашей дополнительной программой-агентом, которая контролирует модемы и обеспечивает возможность удаленно администрировать устройство, на случаи если что-то идет не так.

3. Добавили стабильности, убрали багов, обновили ПО

После того как в ноябре 2020 мы развезли около 20 коробок с сумматорами, вскрылось несколько проблем возникающих у 20% клиентов: то отваливались модемы, то суммирующий сервер, то Raspberry.

Достаточно много времени мы потратили на решение проблем отвала модемов в текущей конфигурации железа. Также после нескольких обращении клиентов поняли, что придется разработать софт для удаленного мониторинга и администрирования. Ну, это было с самого начала понятно, но время для действий настало очень быстро. Теперь покуда хотя бы один модем с рабочей симкой вставлен в сумматор, у нас есть доступ к сумматору, и мы можем мониторить состояние устройства и быстро решать технические проблемы. Все это с согласия клиента, естественно.

Также решили оптимизировать настройку сумматоров на этапе сборки. Раньше мы настраивали их вручную. Сейчас на флешку записываем пакет необходимых программ. Эти программы обновляют Raspberry, устанавливают на него весь необходимый софт в т.ч. агента-администратора, прошивают новые модемы и прописывают данные серверов.

Вот так выглядит запись флешек на масштабе. Используем сразу несколько usb-хабов.

4. Обновили корпуса. Сделать корпус по адекватной цене, хотя бы обычный пластмассовый параллелепипед — это сложно

Для первой партии в 50 устройств мы использовали корпуса от фирмы Gainta. Тогда удалось найти их по 400 рублей за штуку.

Но для новой версии с Cat6 модемами нам хотелось что-нибудь посимпатичнее и компактнее. Корпус выбирали из многообразия коробок-кандидатов средней степени паршивости.

В итоге заказали корпуса в Питере у фирмы, которая специализируется на изделиях из оргстекла. Если раньше корпусом был черный параллелепипед, то сейчас это черный квадрат.

Было

Стало

Продолжаем работать, планируем сделать промышленный роутер, присматриваемся к партнерам

Сейчас ведем R&D по железу, чтобы сделать еще более стабильное устройство для промышленных применений.

Вероятно доведем до прода свое собственное суммирование, сделаем решения для транспорта и промышленных объектов.

Мой профиль в ФБ:

https://www.facebook.com/roman.jarenkov/

Первый раз статью я постил тут:

https://vc.ru/tribuna/231555-kak-my-delaem-bystryy-lte-inter...

Расскажу, как мы страдали от дорогого интернета в офисе и решили сделать свой в 5 раз дешевле. Мы сделали устройство, которое суммирует трафик сразу с нескольких SIM-карт и выдает отличный интернет. Теперь пользуемся только им.

Как мы страдали от офисного интернета

Когда мы заезжали в офис на Белорусской, мы долго удивлялись ценам за интернет. За обычный провод скоростью 100 Мб/сек нам озвучили цену в 60 тысяч рублей. Мы спрашивали знакомых предпринимателей, и, действительно, многие жаловались, что интернет для юрлиц в БЦ и офисных зданиях дорогой.

Это связано с тем, что зачастую в офисных зданиях представлены только 1-3 провайдера интернета, и они пользуется монополией на предоставление интернета в этих зданиях.

Узнали про технологию суммирования интернет каналов и решили ее реализовать

Во время коронакризиса Саша (главный по продуктам) прочитал про технологию суммирования интернет каналов. Утверждалось, что можно объединять несколько разных интернет каналов в один. Нам незамедлительно захотелось попробовать это самим, посмотреть, например, получится ли просуммировать трафик с разных 4G модемов.

Для начала мы решили не реализовывать свое собственное решение, а взять готовое — OpenMPTCPRouter. Это надстройка над openwrt, которая решает именно такую задачу: проксирует весь трафик во внутрь одного MultiPath TCP соединения. На самом деле, кроме собственно MultiPath TCP этот дистрибутив поддерживает кучу разного софта, например glorytun, который тоже умеет решать задачу инверсного мультиплексирования.

Такое обилие фич делает OpenMPTCPRouter не самым предсказуемым и не слишком удобным в настройке, но для начала сойдет (хотя в будущем мы, разумеется, планируем устранить его фатальный недостаток).

Прототип 1, прототип 2 и в продакшн

Нам предстояло собрать устройство, в которое можно вставлять сразу несколько симок разных операторов, или даже несколько ethernet-проводов, а с них суммировать трафик и получать очень быстрый интернет. Забегая вперед, мы сразу предположили, что такое устройство может пригодиться не только нам. Поэтому появилась двойная мотивация запилить коробку-прототип.

Для прототипа мы закупили несколько Raspberry, несколько USB-модемов, несколько SIM-карт от разных операторов и принялись за работу. На все про все у нас ушло 2 недели, чтобы получить полностью работающее устройство.

Вот так оно выглядело сначала:

Интернет получался быстрым и стабильным, поскольку использовались симки сразу нескольких операторов, а значит если в какой-то момент 1 или 2 оператора «отваливались», то остальные распределяли трафик между собой.

Собрав прототип 1, мы сразу же решили создать пару девайсов для своих друзей. Форм фактор выбрали такой: черный корпус, из которого торчат блок питания и ethernet-шнур. Минимально и сердито.

На этом этапе поняли — устройство еще и портативное.

Решали проблемы на уровне железа, софта, серверов, сим-карт

Получившийся суммирующий модем можно было подсоединить к любому раздающему роутеру и наслаждаться интернетом.

Для работы прототипа нужны были только розетка, сотовое покрытие, а также НАШ СТО, КОТОРОМУ ПРИХОДИЛОСЬ ПОСТОЯННО УСТРАНЯТЬ ВЕЧНО ВОЗНИКАЮЩИЕ НЕПОЛАДКИ.

Чтобы устройство работало бесперебойно и без вмешательства человека, пришлось решать проблемы на уровне железа, софта и сотовой связи.

Съездили в Сколково к знакомым ребятам, чтобы они нас обучили базовым навыкам работы с железом. Например, в нашей системе Raspberry и usb-хаб каждый самостоятельно потребляют электричество от своего блока питания. А нам хотелось питать коробку только от одного блока питания. Нам было очень сложно даже от таких задач, поскольку раньше особо никогда не работали с железом.

Распаивали 5А/6А блоки питания, чтобы одновременно хватало питания и для Raspberry, и для активного питания системы из usb-модемов. Разобрались с порчей карт памяти для одноплатного компьютера. Добавили вентиляторов и радиаторов чтобы коробка не перегревалась. Появился легкий шум от вентилятора, но в закрытой коробке на расстоянии 1м его почти не слышно.

Долго отбирали оптимальные usb-модемы, изучили прошивки, перепрошили модемы. В общем поняли, что лучше не экономить и теперь берём те, у которых лучшие отзывы на рынке. Оказалось, что модемы — это самая дорогая часть системы. Это неочевидно, потому что в коробке помимо модемов есть компьютер Raspberry, флешки, usb-хаб, блок питания, провода, вентилятор и сам корпус.

Написали систему удаленного доступа к устройству, чтобы можно было проверять все ли с ним нормально и настраивать что-то по необходимости. Поняли, как анализировать сигнал от вышки, выбирать оптимальные частоты для модемов и какие симки использовать.

Отдельно стоит отметить процесс закупки комплектующих. Доставка корпусов, радиодеталей, модемов, одноплатников — это все занимает время, и к сожалению, не получается с первого раза заказать то, что тебе действительно нужно. Часто что-то к тебе и вовсе не приезжает из-за, например, ошибок на складе. Поэтому процесс сборки первых устройств затянулся в 2 раза по сравнению с планом.

Сумматор заработал стабильно. Решили сделать проект Summator

Решив основные проблемы новичка и собрав устройства, мы отдали их друзьям, своим первым пользователям. Средняя скорость интернета днем получается в районе 50-60 Мб/с, вечером — 80–100 Мб/с. В одном девайсе используются 4 симки. Пользоваться сумматором легко — блок питания нужно воткнуть в розетку, а ethernet провод в любой роутер.

Устройство хорошо пригождается бизнесам сидящим в небольших офисах, чтобы полностью заменить проводной интернет. Для таких бизнесов важна скорость и стабильность соединения. Либо чтобы на подхвате всегда был резервный источник интернета.

Также в процессе сборки мы поняли, что сумматор, оказывается, можно брать с собой в поездки. Например, Жора брал его с собой в путешествие на юга и всегда звонил нам оттуда по видеосвязи.

Мы хотим, чтобы весь опыт для пользователя коробки был максимально бесшовным, поэтому пока ставим свои сим-карты и самостоятельно их пополняем.

Собрали еще больше устройств

Мы уже собрали 50 устройств, и сейчас собираем большую партию в 200 девайсов. Скоро будет новая история про то, как мы организуем наше производство и какие задачи приходится решать.

Мой профиль в ФБ:
https://www.facebook.com/roman.jarenkov/