Продолжение поста «Посоветуйте ИИ для анализа локальной библиотеки (книги\чертежи)»2
Продолжаю свой же пост.
За это время было подготовлено около 40 Гб материалов, в формате PDF (текст+картинки+чертежи+схемы) только на русском языке.
Также, за это время, был подготовлен компьютер, следующей конфигурации:
х2 Intel Xeon E5 2680 v4
128 Gb RAM DDR4 3200Mhz
x2 nVIDIA TESLA P40, 24Gb vRAM DDR5
m2 Samsung EVO 1Tb
На компьютер установлен Linux Debian
Теперь дело за выбором, собственно, нейронки, которая будет тут работать.
Изучаю семейство моделей Cerebras-GPT.
Из плюсов:
- уже обучены
- могут работать без доступа к интернету
- сдержанны в потреблению ресурсов
Прошу высказывать мнения.
Заранее всем благодарен заранее всем благодарен :-)







