Ответ на пост «А у нас»1
Курский вокзал, 2016 год
Показать полностью
2
azer317
5492
рейтинг
14 подписчиков
162 подписки
43 поста
12 в горячем
Награды:
Ответ на пост «Приветственный пост»10
В общем, в прошлом пару раз попадал по спискам, ничего хорошего не добился, еще и мандата лишили, хотя неоднократно предупреждали:
28 февраля 2022 года на 81-м заседании Саратовской областной думы было принято решение о досрочном прекращении депутатских полномочий Николая Бондаренко, по официальной версии, в результате нарушений федерального и регионального антикоррупционного законодательства, связанных с получением денег с видеохостинга YouTube, полученных при использовании Николаем его депутатского статуса. 30-ю голосами «За», Бондаренко лишили депутатского мандата. В знак протеста против принятия данного решения фракция КПРФ покинула зал заседания[44]. Бондаренко оспорил решение думы в Волжском районном суде города Саратова, но его иск был отклонён[45].
Ответ на пост «Часики тикают»2
Или, как говорят эксперты: "2-3 дня"
Ответ на пост «Как сыновей пытались вывезти заграницу…без моего ведома»3
Погодите, а что все так набросились на ТС? Он прямо говорит, что не может сам вывезти детей за границу, не говоря о соседнем городе, так как бж против. А ее осудить мы не хотим, что не дает детям даже к бабушке и дедушке съездить? Согласно СК РФ, родители равны в правах. Так что если тс не имеет права выезда с детьми, то с какого перепугу оно должно быть у нее? Не-не-не, тут либо трусы, либо крестик. ТС адекватный, от алиментов не уклоняется, к детям тянется и на них не забил.
Вообще, сложно и долго, но фиксировать бы все отказы и отмазки бж и потом их в суде и использовать как доказательства злоупотребления родительскими правами.
Продолжение поста «Различия моделей генерации изображений»1
К предыдущему посту были вопросики касательно того, что
1) не используются энкодеры и скорость генерации слишком большая
2) у каждой модели свой стиль и некоторые не умеют, например в аниме.
Специально для @Bottl, проверил настройки и сгенерировал отдельно изображения в стиле аниме. (Промпт: Anime-style portrait of a magical girl with sparkling eyes and flowing hair, set against a starry night sky)
Также установил SD-3 и проверил разницу между скоростями Flux 2 Klein 4B и 9B.
Настройки каждой из моделей в карусели:
Что же у нас получается:
1) энкодеры используются для тех моделей, для которых они существуют (были скачаны из стандартного репозитория
2) изображения генерируются дольше, так как используется 100 шагов очистки
3) 4B вариант модели Flux2 Klein отрабатывает в разы быстрее своего 9В аналога (120-160s против 4585s). Вызвано оно тем, что энкодер для 9В варианта, внезапно, имеет вес больше, чем возможность моей локальной карты (аж 15ГБ).
4) как не странно, чуть ли не все модели смогли в стиль аниме. Претензии только к Juggernaut, но и у него есть свой шарм.
Далее, непосредственно результаты:
ZiT 1 шаг
ZiT 100 шагов
FLUX.2 Klein 9B
FLUX.2 Klein 4B
ReV Animated
Dreamshaper 8
Juggernaut XL v9
SD3 medium
Architecture (RealVisXL5)
Deliberate v5
Показать полностью
20
Различия моделей генерации изображений1
Всем привет!
В малорезультатных попытках освоить различные возможности ИИ в повседневной жизни (читать поиграться с разными моделями в пределах допустимого графической картой) решил посмотреть и сравнить различные модели генераций изображений.
Использовались ПО Invoke (которое позволяет загрузить некоторое количество стартовых моделей) в связке с локальной картой 5070. Делалось 3 запроса:
1) a woman in a garden
2) A steampunk airship battles a giant mechanical kraken above a Victorian-era London. Dramatic perspective, highly detailed, concept art
3) A futuristic cityscape, neon lights, flying cars, concept art
Что именно проверялось:
1) Скорость генерации изображения
2) Стиль генерации (если не указан явным образом в промпте)
3) Соответствие сгенерированного изображения запрошенному
В итоге после первого промпта получилась следующая таблица. Для остальных двух запросов не стал вписывать скорость, так как в целом пропорции схожие.
Сами же изображения будут ниже, но сразу же выделю, что абсолютным победителем по всем 3 параметрам проверки оказался Flux.2. То есть, это та самая модель, которая может выдать наиболее близкое к запросу изображение и при этом качество тоже будет на высоте.
Если же нужен более простой стиль (иногда размытый), то Z-Image явно наш друг.
В остальном, другие модели умеют рисовать, но инструкции не всегда соблюдены. Например, нет кракена для запроса номер 2 или же отсутствуют машины в запросе номер 3.
Z-Image Turbo (Q8)
Architecture (RealVisXL5)
Juggernaut XL v9
Deliberate v5
Dreamshaper 8
ReV Animated
FLUX.2 Klein 9B (GGUF Q8)
Показать полностью
22
Ответ на пост «Французский сыр на прилавках в Италии. Но есть нюанс»3
Тем временем провинциальный городок Франции. Место производства энергетика: респ.Казахстан. А в Оренбурге (150км от границы) те же монстры из Польши. Где логика то?
Показать полностью
1
Опыт установки и настройки локальной LLM с видеокартой Arc B580
Искусственный интеллект занимает все бОльшую часть нашей жизни. Но что если не хочется передавать свои данные, мысли и прочую личную информацию неизвестно куда? Тогда на помощь нам приходит вариант локального разворачивания большой языковой модели. Но тут уже сталкиваемся с той проблемой, что запуск моделей на ЦП довольно медленный, а видеокарты все дорожают.
Благо компания Intel не сидит на месте и выпускает все более производительные с каждым поколением видеокарты. Представляю вашему вниманию Arc B580. У него 12ГБ памяти, что сравнимо с RTX 3060, RTX 5070 или же Radeon RX 7700 XT. Цена же у нее чуть менее 30к, что просто ниже всех вышеперечисленных карт! А производительность, спросите вы? А давайте и сравним.
Опытные пользователи уже провели исследование по картам Nvidia, используя llama.cpp и модель Llama 2 7B и получили следующие результаты (по 7700 XT, увы, результатов не было):
RTX 5060 Ti тут для сравнения влияния количества памяти на скорость и как представитель более бюджетной модели, нежели 5070
Установив окольными путями билд llama.cpp с поддержкой карт Intel, провел тот же бенчмаркинг и результаты немного удивили. А именно:
Что же тогда получается? Выходит, что последняя "революционная" по соотношению цена/качество карта выдает мощность на уровне карты конкурента на 3 года старше! Но при этом и стоит чуть дешевле на текущий момент. Возможно, следующее поколение карт будет уже полноценной конкуренцией для остальных двух гигантов.
Выводы же следующие: Буду ли я ей пользоваться и дальше для LLM? Да, мне такой скорости хватает. Нужна ли она обывателю, который только открывает для себя LLM, OLLAMA и прочие модели? ПОКА ЧТО - нет. По простой причине, что на данный момент нужно очень сильно изощряться, чтобы запустить модели на видеокартах именно этой фирмы. Для прочих nvidia же можно просто в 2 клика скачать среду и нужную модель и иметь удобный графический интерфейс, а не использовать командную строку. С другой же стороны, стоимость карты довольно низка по сравнению с другими, чтобы пойти на такой шаг.
В целом, ожидаю официальной поддержки этой карты в ollama, чтобы сделать из нее еще более полноценный повседневный инструмент, а также использовать в связке с другими видеокартами для еще большей производительности.
Получилось довольно сумбурно, но всегда рад ответить на вопросы или провести дополнительные эксперименты.
Показать полностью
1