背景 我最近在做一件很具体的事:把一个扩散模型(图像生成模型)的推理框架,从 CUDA 移植到另一种加速卡上。 这个模型是 20B 级别的 Transformer,出一次图要跑几十步迭代。序列长度也很