据动察 Beating 监测,AI 编程工具 Cline 用真实生产流量测算 Kimi K2.6 的自托管成本。其每月处理 5830 亿 Token,全部走 API 约花 18.5 万美元。按流量低谷配置 16 张 B200,全天满载承接基础流量,其余请求继续走 API,账单降至 16.6 万美元,只省约 10%。
Cline 估算,按时段动态增减 GPU,可把节省幅度提高到 22% 至 25%。进一步优化内核、批处理和延迟要求,理论上可达 35% 至 40%,但这些方案尚未实际部署。
自托管的门槛也很高。Cline 认为,年 API 支出低于 50 万美元,节省的钱通常覆盖不了推理工程师成本。达到 100 万至 200 万美元后,才更可能划算。这笔账基于 Kimi K2.6,不能直接套到 Kimi K3。
币须知道