GPT на своём кампухтере
До недавних пор даже не знал, что есть языковые модели которые можно развернуть локально у себя на компе. Причем для генерации изображений stable diffusion нашел как-то быстро и без проблем, а с языковыми возникла заминочка.
В итоге наткнулся на ollama, проектик на гитхабе которых позволяет в лёгкую развернуть популярные опенсорсные модели (по типу GPT).
Кому интересно: https://github.com/ollama/ollama