ddanonym001

Если вы интересуетесь запуском локальных LLM, и пробовали запускать Qwen3.8-flash-next, и вас не устраивала скорость - то в мире появилось кое-что интересное.

https://github.com/Niko1221/Strata

У меня на компе 3090 24gb + 128 DDR4 на оригинальной модели было 15-17 токенов/сек

Увидел видео

https://www.youtube.com/watch?v=M0mMmUrHhP0

Да-да, на ютубе. но кому интересно - найдет как поглядеть.

Скачал, развернул. 80! токенов/сек

Взял квант побольше. 70!

Просто пушка. Coder, который там предлагается как быстрый и типа сбалансированный у меня ну очень сильно галлюционирует. А вот обычный - прям кайф.

Короче пока восторг.

Так что АИФ опять выдаете желаемое за действительное.

Только вот не надо рассказывать, что провайдеры будут хоститься где-то, а не у себя в датацентрах.

Пруфы на высер https://aif.ru/politics/world/katastrofa-ukrainy-blizko-supe...

Почему "журналисты" не могут воспользоваться гуглом?

Просто надоели эти высеры с 11 победами на день. Освещайте блд объективно, либо ничего не пишите.

Роснефть, лукойл, газпром - всегда есть пасспорт. Смотрите на графу "Сера". Если около 10 - то все нормально с топливом.

На вонючках заправлять тримеры и газонокосилки только можно. Не слушайте слухи. Сейчас и так сложно, а если еще дебилы будут разгонять - то совсем грустно становится.