浪潮信息日前正式上线Agent-Series智能体专属算力实例,这是其面向智能体业务推出的专项算力产品。该实例针对智能体高频工具调用、反复轮次思考、多实例并发三大典型负载做软硬件协同优化,官方测试数据显示,多智能体并发任务场景下综合吞吐提升37%,单任务响应时延下降42%。 智能体应用与上一代AI应用最大的不同,在于它的运行方式:一个Agent在完成一项任务时,往往要经历多次工具调用、多轮上下文思考,并可能与其他智能体并发协作。这样的负载特征,让传统以单次推理为粒度的通用算力方案显得捉襟见肘。 从通用算力到面向特定负载的专项优化,是算力产品走向成熟的重要标志。Agent-Series选择在吞吐与时延两个维度上做文章,恰好踩中了企业部署智能体时最关心的两个指标:并发规模能否撑住,响应是否够快。这也意味着算力厂商开始把智能体视为一类需要被“特调”的独立负载。
文章图片 2
不过,专项优化实例要真正落地,还需要跨越几道门槛:不同智能体框架的工具调用模式差异很大,软硬协同优化能否覆盖主流生态;政企客户对部署形式与数据本地化也有多样要求;此外,专项实例通常伴随更高的单位成本,中小企业的接受度仍需市场验证。 算力供给从通用走向专用,与企业侧的“按需调度”需求并不矛盾,反而相辅相成。星战科技聚焦GPU算力平台与算力调度能力,帮助企业把训练与推理任务统一管理、按需弹性分配,让企业既可以用通用算力跑日常负载,也可以在智能体并发高峰时快速调度专项资源,把算力利用率和业务稳定性同时提上去。 从更大范围看,浪潮、英伟达以及云厂商们纷纷为Agent业务定制算力,反映出一个共同判断:智能体正在成为企业AI落地的主要载体,其负载特征将深刻影响未来数据中心的规划方式。算力产品的差异化竞争,将越来越多地体现在对应用负载的理解深度上。
文章图片 4
智能体专属算力实例的上线,为企业的Agent业务提供了更明确的选择:要通用算力,还是为智能体负载量身优化的算力。随着多智能体协作场景逐步普及,这样的产品分化只会越来越细,算力平台的价值也会从“卖资源”转向“管调度、保体验”。