Vicuna: чат-бот на вашем компьютере. Младший брат ChatGPT
Разработчики заявляют 90% качества ChatGPT. Vicuna была обучена тонкой настройкой LLaMA на парах вопрос ответ с сайта ShareGPT пользователи которого делились своими диалогами общения с ChatGPT.
Магнитик: 7.5Gb
magnet:?xt=urn:btih:08B0A009C2AB4DFF56FD778FC898BD2A56380221&dn=chat-vicuna-win
Полностью готовая к использованию сборка. Для запуска используйте run_vicuna.bat. Перед запуском измените параметр -t на количество ядер вашего процессора, по умолчанию 4. Работает на CPU требует 8Gb RAM.
Забрать свежий main.exe https://github.com/ggerganov/llama.cpp/releases в большинстве случаев подойдет: avx2, в сборке версия eeaa7b0.