AI 与机器学习
【AI工程师精讲】KV Cache 精讲:为什么 AI 越聊越慢,以及长上下文真正的成本在哪
掘金0 次浏览
新开一个对话,发一句"你好",字是"跳"出来的,几乎没有延迟。聊到十几轮,同样问一句话,先卡两秒,然后才慢慢往外吐字;再往后,甚至会出现打字机那样一顿一顿的感觉,最后干脆超时报错。
原文:https://juejin.cn/post/7693165008605544448上一篇我给 AI Agent 做了个「油猴」:让 Claude Code / Codex 直接用你已登录的浏览器下一篇Docker 部署 DeepSeek Harness:轻松搭建局域网里的 AI Agent 平台




