本文记录国庆期间本地部署的开源大模型在多轮对话测试中显存持续攀升直至OOM的过程。通过内存快照对比与梯度检查点分析,定位到缓存键值对未及时释放的根因。最终通过重写生成循环并添加强制清理逻辑,