MIT的研究报告给出了一个令业界错愕的数字:企业级AI试点中,最终进入生产并产生可量化回报的仅约5%,其余95%的投资未见收益。任务型GenAI工具的渗透率随项目进度层层递减,从60%进入评估、20%进入试点,到最后仅5%成功实施。而另一边,是企业AI渗透率接近饱和的繁荣表象,员工在用、工具在买、试点在跑,普及率与生产级落地率之间的落差,正是当下AI产业最真实的深水区。
更值得警惕的是,多数企业并未意识到自己身处深水区。IDC中国数据显示,全球与中国市场超过60%的企业自认为AI应用已经较为成熟;但按严谨的成熟度模型测算,真正迈入高阶成熟度的企业合计不足3%。正如IDC分析师所言,危险的往往不是认识不到AI的价值,而是高估了自己的成熟度,并让这种高估主导了预算与节奏。
AI落地艰难的本质,是大模型技术的指数级爆发与企业组织的线性演进之间存在巨大时间差。前沿AI Agent能以50%成功率自主完成的任务时长,过去6年大约每7个月翻一番,模型复杂推理能力几乎以半年为刻度跨代跃升;而企业的数据架构、业务流程、权限制度乃至责任体系,只能以远慢于模型的速度改变。技术狂奔、组织慢跑,是当前企业AI落地最深层的一对矛盾。

深信服创始人何朝曦将这种落差归结为云时代旧基础设施与AI新工作负载的错配:模型能力再强,脱离高质量数据便是无源之水;单次Token单价虽在下降,上下文长度激增与调用频次爆发却让算力账单指数级失控;智能体一旦被赋予执行权限,越权操作、误删数据的风险远超传统网络泄露。用不起、算不清、不敢用,成为多数企业试水AI后共同面对的困境。
针对这些困境,业界正在形成一套系统重构路径:建立统一算力网关与计量核算视图,让异构算力可调度、成本可压降,大量实践显示精细化运营能带来2至5倍成本降幅;以跨协议的统一数据底座消除Agent搬运数据的损耗;用AI原生安全体系对抗机器速度的攻击;并为智能体建立类似人类员工的治理规则,最小授权、留痕审计、紧急回收。每一步都在把黑盒的AI投入变成明细账本。

这套从买模型转向运营AI的逻辑,并不只停留在基础设施厂商的设想里。Uber披露的数据很有代表性:员工使用的Agent产品周活跃用户增长7倍、请求量增长9.4倍,AI总支出却从4月起保持稳定,靠的并非寻找更便宜的模型,而是把一次Agent工作拆解成可计量的环节,再通过模型路由、缓存与真实任务评测逐层降本。AI进入生产后,竞争重点迅速从有没有Agent,转向能否看清每次调用、控制每笔成本。
IDC预测,2026年全球AI软硬件投入约9400亿美元,2029年将攀升至2.1万亿美元,未来三四年正是资金大规模涌向基建、价值尚未充分兑现的洗牌期。这一窗口期里,能先把算力调度与成本治理做扎实的企业,才能在投入结构反转前建立先发优势。星战科技在GPU算力平台与算力调度编排方向持续投入,正是帮助企业在模型入口之外,先建立起可计量、可优化、可治理的AI工程底座。

对企业而言,承认自己仍在浅水区摸着石头过河并不丢人,错把概念验证当成成熟生产力才是真正的风险。AI转型的下半场,不是比谁率先宣布用了AI,而是谁先诚实地看清自己所在的位置,再把每一笔投入、每一次调用、每一个智能体的行为,都变成可计量、可追溯、可改进的对象。