ИИ агент для Компас 3D своими руками⁠⁠

Вот, что пишут.
Рекомендуемые требования

Графический процессор (GPU). Оптимальный выбор — NVIDIA с поддержкой CUDA или AMD с поддержкой ROCm. Для комфортной работы с квантованными версиями модели (например, в формате MXFP4 или Q4_K_M) рекомендуется минимум 12–16 ГБ видеопамяти (VRAM). Для более высокой производительности и возможности работы с более крупными контекстными окнами или большими размерами батчей рекомендуется GPU с 20–24 ГБ VRAM. Примеры подходящих видеокарт: NVIDIA RTX 4090, RTX 3090, AMD Radeon 9070 XT с 16 ГБ.

Оперативная память (RAM). Минимум 16 ГБ системной памяти, но 32 ГБ и более обеспечат более стабильную работу, особенно если часть модели будет выгружаться в системную память (CPU offloading) или при одновременной работе с другими приложениями. Для задач тонкой настройки рекомендуется 64 ГБ RAM.

Центральный процессор (CPU). Современный многоядерный процессор (например, Intel Core i7/i9 10-го поколения или AMD Ryzen 7/9 3000-й серии и новее) обеспечит достаточную производительность для обработки данных, предварительной обработки и управления рабочим процессом без задержек.
Для сравнения у меня старенький i7 7700/3060 ti 12Gb/32RAM. Приложение запускается не на ядрах CUDA видюхи, а на процессоре и оперативке. В самой LM Studio, на моей видюхе, модель работает довольно шустро.

Нет ничего невозможного. Но в любом случае, нужно, что-бы программа могла дружить с языками программирования и был мост для общения между ИИ и программой. Нужны рабочие примеры, что бы обучить модель или делать кучу шаблонов, от которых будет отталкиваться модель.

Я пока никуда не выкладывал)

Думаю это возможно. Сейчас модель по системному промту, т.е. в коде прописано, как и что модель должна делать, отвечая на запрос и в моём случае настроена на уточняющие вопросы. Например если написать "Создай цилиндр N диаметра, с центральным отверстием N диаметра" не указав высоту, модель спросит, "Какой высоты должен быть цилиндр?" В моём случае я ограничен по железу, поэтому не могу сделать большего.