AI 用量基础设施探索

问题

AI 产品持续产生消费，而收入系统通常按延迟计费周期运行。难点不只是计 token，而是在流式响应、重试、失败、模型差异化定价、价格变更与预付额度下，维持准确的客户级财务状态。

概念架构

1. 01

   SDK / Gateway

   在产品边缘发出用量

   入：API 调用 · 出：用量事件

   至少一次投递假设

2. 02

   Usage Event Schema

   规范化不可变用量事实

   入：原始事件 · 出：类型化记录

   演进 schema 而不静默丢失

3. 03

   流式聚合

   为批价与额度聚合用量

   入：事件 · 出：数量 / 窗口

   重放与迟到数据处理

4. 04

   额度状态

   保存近实时剩余额度

   入：预留 / 结算 · 出：决策

   预留并对账的一致性

5. 05

   用量与成本 API

   暴露可归因成本与状态

   入：查询 · 出：客户级视图

   读模型与账本真相一致

6. 06

   计费 / 数仓

   下游商业与分析落点

   入：已结算用量 · 出：账单 / 分析

   幂等导出边界

工程决策

• 基于事件的计量

  不可变用量事件比可变计数器更能支持重放、归因与下游灵活性。

• 幂等与重放

  若未显式去重，重复投递会造成重复财务结果。

• 货币精度

  浮点累加不适合财务总额；应使用精确的十进制金额计算。

• 预留并对账

  请求前估计成本、预留余额与响应后实际用量是不同状态，必须对账。

• 轻量与流式架构

  早期 HTTP/Redis 路径可能足够；当体量、扇出与恢复要求上升时，流处理才更有必要。

非目标

• 不是完整开票平台
• 不是收入确认系统
• 不是通用定价目录
• 不证明商业采用
• 不是雇主产品或背书项目