Stable Diffusion: полная архитектура — UNet, VAE и CLIP
Stable Diffusion (Rombach et al., 2022) сделал доступной высококачественную генерацию текста в изображение, объединив три мощные независимо друг от друга идеи: запуск диффузии в сжатом скрытом пространстве (VAE), обработка на основе богатых текстовых вложений (CLIP) и использование U-Net для шумоподавления. Понимание того, как эти три компонента сочетаются друг с другом, является ключом к пониманию того, почему SD работает и как его контролировать.