Серия «Охота на Вопросы»

А нет точного понимания влияние видеокарты на возможности ИИ? Не на скорость ответа но на качество ответа (чем хуже железо тем "тупее" ответы например)?

Не, эт так не работает
Тут аналогию с натяжкой можно провести с обычным ПО
Если памяти не хватит только - ее в SWAP не запихнешь
И вычисления каждого слоя модели идут параллельно на ядрах GPU
Это конкретная математическая модель, и между запросами разница будет только в случае изменения параметра температуры, который рандомно веса дополнительно корректирует

Думаю, я и так очень упрощенно описал, но если ещё сильнее упростить, то от железа может зависить только две вещи:
- Поместится ли модель в память GPU
- И скорость инференса (вычислений до получения следующего токена на выходе)

А качество ответов зависит напрямую лишь от правильно подобранной архитектуры модели и качества её обучения.