Ставим SD web UI на Linux⁠⁠

Давно витала в голове мысль вынести эксперименты с нейросетями на отдельный компьютер, и тут подвернулась редкая удача. Попал мне в руки интересный девайс, а именно Nvidia Tesla A2 аж на 16 гб видео памяти.

Значит хватит отлынивать, тем более привалили майские выходные, короче «нейросерверу» быть! А для повседневных задач собрать компактный, тихий системничек в microATX формате. Но, это потом…

Так как это всё-таки сервер нужна серверная ОС. Качаем Ubuntu 24.04

Ставим.

Подробно на этом останавливаться не буду, сейчас установка Linux проста до безобразия, отмечу только два момента. Ставил в минималке и под /home примонтирован отдельный, быстрый ssd - > за подробной инструкцией в интернет, там есть.

Далее, далее, далее... Готово.

Дабы протестировать карточку установим Stable Diffusion WebUI от AUTOMATIC1111

Здесь начинается полезное для общественности. Поехали!

Обновляемся

sudo apt update

sudo apt upgrade

Устанавливаем необходимое

sudo apt install git bc google-perftools screen nano

Ставим драйвер Nvidia

sudo apt install libnvidia-common-535 libnvidia-gl-535 nvidia-driver-535

Ребутимся

sudo reboot

Проверяем GPU

nvidia-smi

Для корректной работы SD нам потребуется Python версии 3.10 (на момент написания)

Ставим пакет пакетов:  sudo apt install build-essential gdb lcov pkg-config libbz2-dev libffi-dev libgdbm-dev liblzma-dev libncurses5-dev libreadline6-dev libsqlite3-dev libssl-dev lzma lzma-dev tk-dev uuid-dev zlib1g-dev libgdbm-compat-dev (это список пакетов, вводится в одну строку)

Идем на python.org и ищем что у них есть из свежих тридесятых питонов, ага! Есть 3.10.14 Копируем ссылку возвращаемся в консоль

Скачиваем

wget https://www.python.org/ftp/python/3.10.14/Python-3.10.14.tgz

Распаковываем

tar -xzf Python-3.10.14.tgz

Заходим в директорию

cd Python-3.10.14

Собираем интерпретатор в .local пользователя, займет какое то время (разверните консоль во весь экран и почувствуйте себя кулхацкером)

./configure --prefix=$HOME/.local --enable-optimizations

make -j4

make install

Возвращаемся в папку пользователя

cd ~

Проверяем все ли хорошо

~/.local/bin/python3.10 --version

~/.local/bin/pip3.10 --version

Скачиваем WebUI

git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui

Переходим в созданную директорию

cd stable-diffusion-webui

Создаём окружение Python

~/.local/bin/python3.10 -m venv venv

Запускаем

./webui.sh

Ждём загрузки библиотек и базовых моделей и вуаля!

Осталось продумать систему охлаждения и подобрать параметры

Моя доволен!