Флирт1
раскрыть ветку (53)
раскрыть ветку (12)
раскрыть ветку (8)
раскрыть ветку (5)
Этого раскулачим первым.
Я брал 64 гб за ~35к (в декабре 2025-го еще казалось, что дорого), а тут 8 за 19.
раскрыть ветку (4)
Я умудрился за 17к взять Кингстон на 32гб 6000 с хорошими таймингами(и тоже на тот момент казалось дорого, 23 год вроде). Обновлял процессор, и что-то решил заодно обновить и оперативку, хотя был вариант оставить старую и взять плату с ддр4. Прям очень повезло
Ииии круг зациклился, с учётом, что цены бешеные именно из-за возможности генерировать такие гифки
раскрыть ветку (3)
раскрыть ветку (20)
раскрыть ветку (19)
раскрыть ветку (18)
раскрыть ветку (13)
раскрыть ветку (12)
раскрыть ветку (11)
раскрыть ветку (10)
раскрыть ветку (9)
попытка не пытка) если не пугает долгое время генерации и частое использование свопа на системном ssd
раскрыть ветку (8)
раскрыть ветку (7)
8-битные вычисления на v100 не поддерживаются, только 16/32. а модель minimax h3 в 16 битах весит более 60 Гб. может есть какие-то программные способы обхода, но будет скорее всего медленнее работать.
раскрыть ветку (6)
а, то есть этот инференс сильно квантованный и надо две v100. разница существенна?
раскрыть ветку (5)
думаю если использовать comfyui с его dynamic vram то и одной v100 хватит, часть весов в основной оперативе будет сидеть и гоняться асинхронно порциями туда-сюда. minimax h3 довольно тяжёлая модель так что расчеты скорее всего будут медленнее чем обмен данными с видеокартой и всё в итоге выровняется. лишь бы системной памяти было достаточно. но проблема ещё в том что minimax h3 оказывается в bf16 формате и заточен под него изначально. у v100 с этим проблемы (нет картинки). патчи под это дело судя по выдаче гугла есть.
раскрыть ветку (4)
я планирую 512гб оперативы и 128гб на v100, ну и два xeon v4, но это перспектива, и довольно дорогая, так что жирок постепенно наращивать буду, второй платформой буду на чем то, что умеет в 8 бит считать
раскрыть ветку (3)
v100 это какое-то ни рыба ни мясо, памяти много, но много и ограничений, fp16 быстро выжрет всё. на архитектуре turing int8 и int4 вычисления хотя бы есть. 2080 ti уже переделывают в 22-гб версии, с учётом сжатия модели в 8 бит это будет эквивалентно теоретической 44-гб v100. лучше сразу закупиться всем что умеет хотя бы в int8
раскрыть ветку (2)
раскрыть ветку (1)
не особо слежу за этим, может уже есть что-то поинтереснее перепаянных на 22 Гб 2080. смотри на всё что начинается с архитектуры turing (rtx 20xx) и новее. одно точно могу сказать v100 не стоит брать вообще, самое херовое вложение средств.
Красиво получилось, только оперативка мешает ещё и чел какой-то всю картину прекрасного портит
Лига Геймеров
58.8K постов92.2K подписчиков
Правила сообщества
Ничто не истинно, все дозволено, кроме политоты, за нее пермач, идите на ютуб
Помни!
- Новостные/информационные публикации постим в pikabu GAMES
- Развлекательный контент в Лигу Геймеров
Нельзя:
Попрошайничать;
Рекламировать;
Оскорблять участников сообщества;
Нельзя оценивать Toki Tori ниже чем на 10 баллов из 10;
Выкладывать ваши кулвидосы с только что зареганных акков - пермач
За неэтичное использование сообщества - тоже бан. Если ты выкладываешь пост в наше сообщество и получаешь стартовые плюсы от наших подписчиков, не думай, что вытаскивать потом пост в своё личное сообщество будет умным поступком.