Кароче, китайская компания смогла удешевить процесс обработки информации для создания ИИ. Потому что раньше создать свой GPT могли только большие компании, т.к. только у них были на это мощности. А тут появились китайцы, которые сделали похожее сильно дешевле. У США все равно лучше ИИ, но это же только начало для китайцев, а уже вышло очень годно :)
Звездочка, мелкий шрифт: все это по утверждениям самой компании. Аудита никто не проводил, выложенное на хаггингфейс никаких особых чудес экономичности не показывает
и 14 и 32 это не дипсик. Дипсик есть только в своих собственных первых трех версиях и r1, а все остальное в других кодировках и на другом уровне затрат. ЖПТ тоже нуждается в хорошем сервере для того чтоб работать более-менее полноценно, а урезанные локальные версии мало что могут
Нет, это не квантизация, квантизация это снижение точности веса без изменения архитектуры или количества параметров, а их у r1 почти 700 миллиардов хоть кванитизируй, хоть нет. То о чем вы говорите это дистилированные модели qwen и llama обученные с помощью r1, а не классическим методом.
Но насколько я понял, для полноразмерной r1 хватит около 36Гб vram, а остальное она хранит в оперативе? То есть вполне реально поднять такую нейронку у себя дома, и довольно бюджетно.
Можно хоть всю модель в оперативу положить, так делают, если Vram не хватает. Только скорость доступа у оперативы и Vram различается, если не путаю - раз в 10 минимум (а скорее всего - сильно больше). Модель тогда будет выполняться "годами".
Нет. Квантификации - это когда количество параметров не меняется, а меняется количество бит, которыми описывается каждый из них. У R1 681B параметров, 14b и 32b - как намекает название - это немного другое. На деле это fine tuning чего то типа Qwen2.5_32B, дообученный на ответах R1.
Это почти классика жанра. США или другие технологически развитые страны создают инновации, развивают. Потом приходит Китай, пиздит технологии или покупает и делает дешевле но хуже. Хотя в последнее время стал делать качественнее и меньше пиздить, развивает свою интелектуальную базу покупая для обучения специалистов с запада ну и России.
Куртка китайская, сделанная в Китае, и куртка ирландская, сделанная в Китае, настолько различаются в качестве, применённых технологиях и продуманности, что китайская куртка на фоне ирландской выглядит бесполезным мусором.
У меня много вещей из Китая, и их количество, к сожалению, увеличивается, но я точно знаю, что из себя представляет типичная китайская вещь - копию европейской/американской, за меньшие деньги, но просто бездумно скопированную, без понятия того, почему применены те, или иные технологии/приёмы.
Бывают приятные исключения, но масса - именно такая.
Брал и с Таобао, который для внутреннего рынка. Нет, есть хорошие китайские бренды, но они по цене как европейцы, может чуть ниже. Кроссовки Ли-Нинг, например.
Возможно с вещами оно так, я их особо не покупаю, но бытовая техника и смартфоны у них вполне на уровне, и не уступают западным аналогам. Например, Dreame, Roborock, Xiaomi, Realme и т.п.
У дочки топовый айфон 15, купленный новым в магазине. Глючит безбожно, батареи на пол дня не хватает. 20% это приговор, надо искать зарядку. У меня древний реалми, 4 года и все еще держит лучше чем новый айфон. 20% это еще 1-1,5 часа видеосвязи. И глючит пару раз в год. Главное преимущество айфона, с ее точки зрения, это камера. Зашла в магазин на днях, покупать аймак, и ради интереса, походила поклацала телефоны. Раздумывая над покупкой нового. Главный тест - камера. Прозрела что все топы фоткают лучше чем ее айфон, а лучше всех, Сяоми 14. Но нет, купить Сяоми никак, только айфон.
Опенсорс- это пока ещё не бесплатно. Вернее...Наберут сейчас базу и аналогично введут премиум. Железо на котором это всё крутится ни разу не дешёвое
Про старые видеокарты- тоже бред пишут. На древнем говне обычного пользователя запустить можно разве что файнтюн qwen или llama, что ни разу не r1 про которую идёт вся шумиха.
Openai, исскуственный интелект, куда вбухали кучу денег, времени, и очень гордились этим, а тут Китай, "зафигачил на коленке", на б/у чипах, свой ИИ, который, в некоторых моментах превосходит вышеупомянутый openai, он же chatgpt. Ну и бюджет там вроде в 10 раз меньше.
Вопрос звучал так: "тебя сравнивают с Юсуфом из Турции на олимпиаде. Ты понимаешь почему?" + добавил немного из его "размышлений", в длинные скрины не мастер
2
DELETED
Пиздеть не мешки ворочать, там алибаба сказала уже что их модель лучше дипсика, китайцы как всегда.
