在近日的一档播客对谈中,Pi核心贡献者Armin Ronacher用了一个辛辣的比喻:现在在市场上买Token,越来越像购买一种成分不明的商品——你无法确认自己买到的是高度量化过的模型,还是掺入了其他模型训练产物的混合体。量化程度、实际版本、计费方式,全是黑洞。
这个比喻直指大模型产业的深层变化:模型供应正在从“买软件”变成“买服务”,而服务的成分、质量与成本却缺少统一的透明度标准。第三方渠道的Token交易尤其如此,模型版本、数据处理方式都难以核实,企业采购部门几乎无从做尽职调查。
更让行业不安的是生态锁定:OpenAI的多Agent编排提示词在平台内部加密,跨平台编排无从谈起;缓存机制不透明、不可迁移,切换模型时需要从头重建缓存并重新消耗大量Token。缓存被从业者形容为“不透明的基础设施勒索”。

成本账同样触目惊心:有工程师为游戏项目开了12个订阅,按真实Token价格折算每月消耗约9万美元,一年接近百万美元,而项目收入根本覆盖不了。低价订阅掩盖了AI的真实成本,也放大了市场对AI商业价值的误判。当Token消耗成为主要运营开支,成本与价值的对应关系却无人能算清。
透明度缺失正在倒逼市场出现新的基础设施需求:企业希望模型调用可审计、成本可核算、供应商可替换。这也让“可信的API分发与聚合”成为关键赛道——把多元模型接入、透明计量与统一管理做好的平台,会成为企业采购大模型的第一道闸门。星战科技在大模型API广场方向的投入,正是面向这一需求。

从监管与产业趋势看,模型透明性议题的讨论只会越来越深入:谁在训练、用什么数据训练、推理时是否偷换模型,这些过去被当作商业机密的细节,正在变成企业与监管都必须面对的基础问题。而对开发者而言,谨慎评估供应商、保留迁移能力,是当下最务实的选择。
Token市场从“成分不明”走向“透明可核”,是行业走向成熟的必经之路。对企业而言,与其把信任交给单一供应商,不如把能力建立在可替换、可审计的开放生态之上。