Хотите крутую альтернативу ChatGPT4, которая работает локально?⁠⁠

Чат с RTX: локальная альтернатива ChatGPT!

Чат с RTX - это ваш выбор!

Чем он крут:

Локальная работа: работает на вашем ПК с Windows RTX 30х или 40х серий, без задержек и с сохранением конфиденциальности.

Персонализация: обучайте чат-бота на своих данных и получайте уникальные ответы.

Поддержка файлов: текст, PDF, документы или ссылки на видео YouTube.

Быстрый анализ данных: идеально подходит для исследований и анализа.

Два LLM: Mistral 7B и Llama 2 13B - выбирайте тот, который вам подходит.

Chat with RTX - это инновационное приложение, которое использует генеративный ИИ (ИИ) для создания персонализированных чат-ботов.

Как он работает:

Загрузите приложение: https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generat...

Выберите LLM: Mistral 7B (требует 8GB VRAM) или Llama 2 13B (требует 12GB VRAM).

Обучите чат-бота: загрузите свой контент, например текст, PDF или документы.

Наслаждайтесь общением: ваш чат-бот готов к работе!

Чат с RTX - это мощный искусственный интеллект, работающий локально на вашей машине без подключения к Интернету.

Посмотрите пример Chat с RTX использования. (https://www.youtube.com/watch?v=np5AzacH4do)

Не нравится Чат с RTX! Не проблема!

Попробуйте LMStudio (https://lmstudio.ai/) x AnythingLLM (https://useanything.com/download)!

Это два удобных инструмента, которые позволят загрузить, запустить и управлять мощным локальным LLM вместо ChatGPT. Серьезно.

Посмотрите пример LMStudio x AnythingLLM использования. (https://www.youtube.com/watch?v=-Rs8-M-xBFI)

А еще? https://www.youtube.com/watch?v=rwqPA4qi0H8

Альтернативные инструменты для работы с LLM

https://lmstudio.ai/

https://useanything.com/download

https://github.com/imartinez/privateGPT

https://github.com/oobabooga/text-generation-webui

https://github.com/SillyTavern/SillyTavern

https://github.com/OpenAccess-AI-Collective/axolotl

https://github.com/hiyouga/LLaMA-Factory

https://github.com/mit-han-lab/llm-awq

https://github.com/turboderp/exllamav2

https://github.com/IST-DASLab/gptq

https://github.com/ggerganov/llama.cpp

https://github.com/vllm-project/vllm

https://github.com/NVIDIA/TensorRT-LLM

https://github.com/run-llama/llama_index

https://continue.dev/

Рекомендации по модели:

https://huggingface.co/NousResearch/Nous-Hermes-llama-2-7b

https://huggingface.co/openchat/openchat-3.5-0106

https://huggingface.co/upstage/SOLAR-10.7B-Instruct-v1.0

https://huggingface.co/google/gemma-7b

https://huggingface.co/mistralai/Mixtral-8x7B-Instruct-v0.1

https://huggingface.co/deepseek-ai/deepseek-coder-33b-instru...

https://huggingface.co/jbochi/madlad400-3b-mt

https://huggingface.co/colbert-ir/colbertv2.0

ВСЕ модели:

https://huggingface.co/models

https://t.me/d00m4ace_blog – D00M4ACE нейроподкаст на нейронках 🤖

#чатботы #искусственныйинтеллект #nvidia #RTX #локальныйчатбот