Установка для AMD¶
Видеокарты фирмы AMD не поддерживают CUDA нативно, из-за чего запуск многих популярных нейросетей (таких как Stable Diffusion) может быть сопряжён с рядом трудностей. Производительность при этом более низкая, в сравнении с видеокартами фирмы NVidia.
Что такое CUDA?
CUDA - это программно-аппаратная архитектура, разработанная компанией NVidia. Данная архитектура позволяет использовать GPU для повышения производительности параллельных вычислений. Она представляет собой набор инструментов и библиотек для работы с графическим процессором.
Подавляющее большинство библиотек машинного обучения используют CUDA.
По отзывам анонов, AUTOMATIC1111 работает с AMD, хоть и не поддерживает его официально. Для запуска можно использовать такие параметры в webui-user.bat:
set COMMANDLINE_ARGS=--opt-split-attention --upcast-sampling
Windows vs Linux
В случае AMD, скорость генерации на Linux значительно превосходит скорость генераций на Windows (вплоть до двух раз), что происходит за счёт специального ROCm драйвера от AMD и различных оптимизаций.
Гайды¶
- Использование Stable Diffusion с видеокартами AMD - старый гайд от анона. В треде писали, что предложенный метод сейчас не работает
- Install and Run on AMD GPUs - несколько вариантов установки от автора самого популярного UI для Stable Diffusion
Установка stable-diffusion-webui-amdgpu¶
1. Установить Python 3.10.6. Во время установки отметить "Add Python to PATH"
2. Установить git
3. Установить stable-diffusion-webui-amdgpu через команду в консоли:
git clone https://github.com/lshqqytiger/stable-diffusion-webui-amdgpu.git
4. Отредактировать в файле webui-user.bat параметр COMMANDLINE_ARGS как указано ниже:
Вариант 1:
set COMMANDLINE_ARGS=--use-directml
set COMMANDLINE_ARGS=--opt-sub-quad-attention --lowvram --disable-nan-check
Остальное как у NVidia - скачиваешь модель (чекпойнт), VAE, лоры, настраиваешь оптимизации и интерфейс под себя.