私有化部署那篇算过机房之外的账,但那还是平台一个池子的账。到了月底分账,真正的争吵才开始:这条推理链路是客服部用的还是电商部用的?向量库重建那笔算力算谁的?省下来的 GPU 归谁?分账分不平,降本就没有人牵头——省钱的动力来自账单落在自己部门的人。
鼎上娱乐在企业 AI FinOps 项目里用过三种分摊法,各有各的能用边界。这篇把三种方法和分摊之前必须补齐的四本账写清楚。
先补四本账:分摊的前提是归集
- 调用账:每次请求带的调用方标签(部门/应用/场景三级),网关侧强注入,缺标签的请求直接拒——没有这级数据,后面全是估;
- 资源账:GPU 卡时、向量库存储、索引重建任务,按实际占用计时到池,而不是按申请配额计;
- 人账:平台团队支持各业务的工时,按工单归集,这部分常常占两成却最常被漏;
- 沉淀账:一次性的评测集建设、提示词库治理,属于资产投资,不该进当期用量分摊。
四本账里调用账是地基。标签在网关强注入的做法,与上线前的六个指标要求的观测口径同源:先有统一埋点,再谈指标。
方法一:直接归集——独占用量直接记
部门独占的算力池、独立租用的模型配额,直接记账到该部门,没有分摊问题。适用条件是资源与调用方一一对应。这个方法最诚实也最省心,但企业里能直接归集的部分往往不到一半,剩下的才是难题。
方法二:按量摊派——共享池按用量切
共享 GPU 池、公共向量库、平台工具链的成本,按周期内各部门的实际用量占比切分。关键是用量单位选什么:token 数最直观,但对检索重、生成轻的场景不公平;卡时贴合成本结构,却要求调度侧记录归属;混合单位(生成按 token、检索按次、存储按 GB·月)最贴近真实消耗,代价是计费系统最复杂。我们多数项目最终落在混合单位上——分摊服的争议度与账单的可解释度成正比。
方法三:混合标价——内部服务定价
把平台能力包装成内部服务清单:每千次对话、每次批量重建、每 GB 知识库存储各标一个内部价,部门按单购买。与前两种方法的区别是,这不只是记账,而是制造价格信号——部门看见「重新索引一次 = 三天预算」,自然会收敛滥建库的行为。定价要定期校准到真实成本,否则要么平台贴钱、要么部门当冤大头。
| 方法 | 适用条件 | 最常见的坑 |
|---|---|---|
| 直接归集 | 资源与调用方一一对应 | 把共享备用池也划给某部门,闲时浪费无人知 |
| 按量摊派 | 共享池、用量可精确归集到标签 | 单位选错,重检索场景被 token 口径低计 |
| 混合标价 | 平台能力成熟、有结算意愿 | 内部价长期不校准,信号失真 |
省下来的算谁的
分账不只能分成本,还得能分节约。我们的做法是设「节约留存」:部门通过改提示词、降上下文、换小模型省下的额度,一定比例留在该部门下季预算里,而不是全部回收进池。没有这条,降本的动作等于自砍预算,没人会做。改之前记得先测质量——省法要过立项与验收里的质量线,不是单看成本线。
糊涂账的解法不在月底的表格里,而在网关的标签里、调度器的归属记录里、内部服务清单的定价里。四本账补齐、三种方法选对,AI 预算才能从吵不完的追加会议,变成各部门自己会收敛的经营数字——这也是鼎上平台把计量与账单做成能力中台一环的考虑。