SLM 生成式高并发推理引擎：延迟约束下的有效吞吐优化

本文为SLM（Small Language Model， 小参数量语言模型0.5~1B）在搜推场景的大规模落地提供了一套高性能、可复用的工程实践。