多卡推理的目标不是线性加速,而是支撑更大的模型、更高并发和更长上下文。TP等并行策略以通信换显存,性能取决于通信与计算平衡。推理通常受内存带宽限制,真正决定性能的是通信、调度和内存管理效率,而非GPU