Помогите подобрать процессор для видеокарты для ИИ

Собираю платформу для уже обученной модели, и хочу весь бюджет перетянуть на видеокарту, что в этом случае стоит смотреть, после болталки с ИИ образовался примерно такой конфиг:

  • Процессор: AMD Ryzen 5 от 6 потоков, 3+ ГГц

  • Видеокарта: NVIDIA RTX 3090 24гб или rtx 4080 16gb?.

  • ОЗУ: 16-32 ГБ DDR5-4800.

  • Материнская плата: socket am4 или am5.

  • Накопитель: m2 256.

  • Блок питания:600 Вт

1) Насколько выбор ddr4 будет негативным, можно ли экстремально ограничиться блоком в 600ВТ? У меня был системник с 3060rtx 12gb, все работало на 300Вт.

2) RTX4060 на 16гб и как вариант Radeon 7900XTX 24gb.

Основное назначение бот графика/текст в ТГ, но с минимальными лагами (у меня желания висеть в очереди, доступ по API также не подходит из-за VPN, даже моя 4060 8gb выдает результаты быстрее, но все упирается в память для более результативных моделей).

Какую ОС посоветовать? Что с драйверами у красных и зеленых на Ubuntu? Что у красных с ROCm, на сколько их родное LMStudio работает с моделями, потому что у зеленых родное ПО, едва скачивает 8В модель, но выдает в ней неплохие результаты, возможно даже лучше чем всякий опенсорс.

Как всегда вопрос бюджета, ибо через пару лет можно будет все это железо раздать на авито перекупам... Не держю свечку за ценителей gtx 1080, rtx 2090, но меня тоже жаба душит обновляться регулярно поверху ради реального прироста в 5-10%...

0
Автор поста оценил этот комментарий
А брать 3060-12 -так это довольно медленно. Таких только сразу пачкой впихивать.
3060ти на 20-30% быстрее, не говоря про 3070 и 3080

У красных не особо дружба с нейронками.
По моим впечатлениям с убунтой проще будет, но и на винде можно
раскрыть ветку (1)
0
Автор поста оценил этот комментарий

хороший вопрос, можно ли всякими SLI баловаться: 1) если помню большинство приложений под это нерасчитаны изобретать велосипед 2) как я помню 2 rtx 3060, хоть и дадут в сумме 24гб, но модель в них рассчитываться не будет только 2 запроса по 12gb, а для 24gb скорость будет сильно ниже, даже если как-то код оптимзировать?

показать ответы
0
Автор поста оценил этот комментарий

Есть пики потребления

ТДП rtx 5090 575 ватт, рекомендуемая мощность БП 1к ватт. А вот собственно почему.

Иллюстрация к комментарию
раскрыть ветку (1)
0
Автор поста оценил этот комментарий

спасибо, именно поэтому 5090 даже пока не рассматриваю, там конфиг под полмульта будет)) Ок, логично на них ориентироваться, а как в этом случае работает все остальное, т.е. на процессор с матерью меньше 100 Вт остается?

показать ответы
2
Автор поста оценил этот комментарий

У искусственного интеллекта и спросил бы.

БП не хватит, смотри рекомендованные требования по питанию для видеокарты.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

если бы уже не работал с этим, я же говорю на пике 3060 12gb стояла в сборке на 300Вт БП (еще был резерв). Примерно AM4 сокет был, кулер, проц +видео + винт м2 - там вообще потребителей раз 2 и обчелся после видеокарты, идет проц, кулер и все...

показать ответы
0
Автор поста оценил этот комментарий

А что за модель? Просто у меня на DDR5 16 Gb, RTX 3050, i5 12400F количество связей в 13В уже не тянет. Даже квантованные q4

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

я поэтому и хочу поменять на 4060rtx 16gb или radeon 7600xtx 24gb или 3090rtx 24gb вот думаю, что брать...

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества