Home/Blog/中小企业跑125B 大模型:18GB 显存之差,到底值多少吞吐综合中小企业跑125B 大模型:18GB 显存之差,到底值多少吞吐掘金2026-11-01 20:560 views中小企业跑125B 大模型:18GB 显存之差,到底值多少吞吐 作者:吴佳浩 撰稿时间:2026-10-24 测试环境: GPU:RTX 5090(32GB VRAM,驱动 580.142,CUDASource:https://juejin.cn/post/7702866392131649590My favoritesPreviousNASA 征询拯救哈勃望远镜的方案NextAI正在制造通缩:一场闭门会背后,三个被大多数人忽略的底层逻辑Related posts云上攻防之 Azure VM/VMSS 代码执行梳理+第三方扩展拿 access_token前言 本文是对云上攻防场景下的 Azure VM 和 VMSS 进行探究,梳理常见的代码执行方式,以及对此方式进行延伸,借助 Azure 商店中由外部厂方发布三方拓展拿 access token ,这些手法均是为了在环境中建立立足点。 Az0先知社区RushWind Admin — update_mask 写面:字段级白名单、显式清除与点路径合并RushWind Admin — update_mask 写面:字段级白名单、显式清除与点路径合并 RushWind Admin 的更新接口是同一个形状:请求体带一个 id 和一个大对象 data。麻0掘金RushWind Admin — 多租户行级隔离与租户回收站:Viewer 三态、repo_shell! 与全域级联清除RushWind Admin — 多租户行级隔离与租户回收站:Viewer 三态、repo_shell! 与全域级联清除 多租户系统最怕的不是没有隔离,而是"靠每个开发者记得加租户条件"的隔离——新人0掘金跨阶段分离:技评、编码、自测为什么分会场结论先行:让一个会话从技术评审一路干到编码自测,看起来连贯,实际上每个阶段的产出质量都在为上下文膨胀买单。 三个阶段三种心智 技评阶段:发散,需要铺开对比多种方案,上下文里全是调研材料 编码阶段:收敛0掘金《WeKnora 深度技术解析》第 5 章 数据底座:多租户模型、仓储与迁移《WeKnora 深度技术解析》第 5 章 数据底座:多租户模型、仓储与迁移 WeKnora 的功能看起来是“上传文档、检索、问答、Agent、Wiki”,但在这些能力之下,真正决定系统边界的是数据模0掘金RAG幻觉RAG遇到的工程化问题,召回的文档信息太多怎么办,幻觉漂移如何处理、检索冗余、上下文溢出问题怎么处理0掘金