Давно витала в голове мысль вынести эксперименты с нейросетями на отдельный компьютер, и тут подвернулась редкая удача. Попал мне в руки интересный девайс, а именно Nvidia Tesla A2 аж на 16 гб видео памяти.
Значит хватит отлынивать, тем более привалили майские выходные, короче «нейросерверу» быть! А для повседневных задач собрать компактный, тихий системничек в microATX формате. Но, это потом…
Так как это всё-таки сервер нужна серверная ОС. Качаем Ubuntu 24.04
Подробно на этом останавливаться не буду, сейчас установка Linux проста до безобразия, отмечу только два момента. Ставил в минималке и под /home примонтирован отдельный, быстрый ssd - > за подробной инструкцией в интернет, там есть.
Далее, далее, далее... Готово.
Дабы протестировать карточку установим Stable Diffusion WebUI от AUTOMATIC1111
Здесь начинается полезное для общественности. Поехали!
Устанавливаем необходимое
sudo apt install git bc google-perftools screen nano
sudo apt install libnvidia-common-535 libnvidia-gl-535 nvidia-driver-535
Для корректной работы SD нам потребуется Python версии 3.10 (на момент написания)
Ставим пакет пакетов: sudo apt install build-essential gdb lcov pkg-config libbz2-dev libffi-dev libgdbm-dev liblzma-dev libncurses5-dev libreadline6-dev libsqlite3-dev libssl-dev lzma lzma-dev tk-dev uuid-dev zlib1g-dev libgdbm-compat-dev (это список пакетов, вводится в одну строку)
Идем на python.org и ищем что у них есть из свежих тридесятых питонов, ага! Есть 3.10.14 Копируем ссылку возвращаемся в консоль
tar -xzf Python-3.10.14.tgz
Собираем интерпретатор в .local пользователя, займет какое то время (разверните консоль во весь экран и почувствуйте себя кулхацкером)
./configure --prefix=$HOME/.local --enable-optimizations
Возвращаемся в папку пользователя
~/.local/bin/python3.10 --version
~/.local/bin/pip3.10 --version
Переходим в созданную директорию
cd stable-diffusion-webui
~/.local/bin/python3.10 -m venv venv
Ждём загрузки библиотек и базовых моделей и вуаля!
Осталось продумать систему охлаждения и подобрать параметры
