Установка для AMD¶

Видеокарты фирмы AMD не поддерживают CUDA нативно, из-за чего запуск многих популярных нейросетей (таких как Stable Diffusion) может быть сопряжён с рядом трудностей. Производительность при этом более низкая, в сравнении с видеокартами фирмы NVidia.

Что такое CUDA?

CUDA - это программно-аппаратная архитектура, разработанная компанией NVidia. Данная архитектура позволяет использовать GPU для повышения производительности параллельных вычислений. Она представляет собой набор инструментов и библиотек для работы с графическим процессором.

Подавляющее большинство библиотек машинного обучения используют CUDA.

По отзывам анонов, AUTOMATIC1111 работает с AMD, хоть и не поддерживает его официально. Для запуска можно использовать такие параметры в webui-user.bat:

set COMMANDLINE_ARGS=--opt-split-attention --upcast-sampling

Аноны с радеонами 7000-й серии могут запускать версию для Linux c ROCm через Docker/WSL2, все остальные ~~идут нахуй~~ могут попытать счастья с версией ZLUDA под винду.

На 6900XT цифры получаются примерно такие:

	ZLUDA (Win10)	DirectML (Win10)	ROCm (Kubuntu 22.04)
SD1.5	512x768: 00:08; 512x768 -> 1024x1536: 02:14	512x768: 03:43	512x768: 00:06; 512x768 -> 1024x1536: 02:01
SDXL	1032x1536: 01:14	1032x1536: OOM	1032x1536: 00:38

Windows vs Linux

В случае AMD, скорость генерации на Linux значительно превосходит скорость генераций на Windows (вплоть до двух раз), что происходит за счёт специального ROCm драйвера от AMD и различных оптимизаций.

Гайды¶

Использование Stable Diffusion с видеокартами AMD - старый гайд от анона. В треде писали, что предложенный метод сейчас не работает
Install and Run on AMD GPUs - несколько вариантов установки от автора самого популярного UI для Stable Diffusion

Установка stable-diffusion-webui-amdgpu¶

1. Установить Python 3.10.6. Во время установки отметить "Add Python to PATH"

2. Установить git

3. Установить stable-diffusion-webui-amdgpu через команду в консоли:

git clone https://github.com/lshqqytiger/stable-diffusion-webui-amdgpu.git

4. Отредактировать в файле webui-user.bat параметр COMMANDLINE_ARGS как указано ниже:

Вариант 1:

set COMMANDLINE_ARGS=--use-directml

Вариант 2 (если всего 4-6GB VRAM):

set COMMANDLINE_ARGS=--opt-sub-quad-attention --lowvram --disable-nan-check

5. Запустить webui-user.bat

Остальное как у NVidia - скачиваешь модель (чекпойнт), VAE, лоры, настраиваешь оптимизации и интерфейс под себя.