该项目探索了视觉转换器在基于扩散的生成学习中的有效性，揭示了Diffusion Vision Transformers（DiffiT）。该模型将U形编码器-解码器架构与新型时变自注意模块相结合。DiffiT可以生成高分辨率的图像，具有非常好的...

研究人员使用预训练的扩散模型在较小的图像上进行训练，以生产大尺寸的高质量图像。他们发现在更大的图像中存在重复模式的问题，并将问题指向了模型结构的有限感知能力。