一看到"气隙""主权云"这几个词,你大概会想:这是军工和金融的事,跟普通企业没关系。但数据不是这么说的。 IBM 商业价值研究院的调研里,68% 的企业高管认为跨境数据驻留要求棘手。Futurum 预测,到 2030 年混合与边缘部署会占 AI 基础设施的 43.5%,公有云份额降到 46%。 所以别再把它当成军工金融的专属了,这已经是多数企业的现状。
文章图片 2
IBM 换掉了自己的模型 看那份公告,真正要紧的不是"支持自托管"这几个字,是它把模型给换了。 Bob 的 SaaS 版本,任务会在 Claude、Mistral 和 IBM 自家的 Granite 之间路由。到了自托管版,这三个被全部换掉,改成 NVIDIA Nemotron 和 Poolside Laguna——因为这两个可以本地授权、本地运行,不依赖任何对外 API。 这不是 IBM 想缩水,是没办法。前沿模型的服务条款摆在那儿,暂时进不了你的机房。要数据不出域,总得在模型能力上让一步。 很多企业算这笔账的时候只记了"安全"这一栏。落地三个月后才发现,员工还是偷偷用公有云的对话框处理核心文档,因为内网那个版本确实不好用。这类项目翻车,多半不是卡在合规上,是败在没人愿意用。
文章图片 4
选型别问"哪个本地模型最强",该问的是"半年后想换模型,得花多长时间"。 模型层迭代比任何一家企业的采购都快,今天挑的本地模型,半年后多半不是最好那档。架构要是把模型和业务焊死,不出域就从保护变成另一种绑定,你用合规换来的,是一个新的供应商锁定。
文章图片 6
一套能长期用的架构,要过三关 模型可替换。 业务层和模型层之间得有独立的调度与治理层,模型换掉的时候,上层的智能体、知识库、工作流不该跟着重写。智脑 WorkMesh 做成"业务 + 维护"双后台就是这个考虑:业务侧看到的是稳定的助理和工作流,维护侧可以随时代换和纳管模型,两边节奏不用同步。 全链路可审计。 部署在本地,和可审计,是两件事。企业得能回答:某个智能体在什么时间、用哪个模型版本、凭哪些权限、做了什么操作,并且能追到具体的授权人。 算力得续得上。 一体机真放进办公室,噪音和散热是实打实的问题。液冷不是为了跑分好看,是为了这东西能在工位旁边安安静静待三年。模型变大、并发上来之后还能不能平稳扩,决定了这套系统是用一年还是用三年。
文章图片 8
真要上私有化,先别急着看厂商,把这三个问题在内部答一遍: 1. 哪些数据绝对不能外传。 不需要什么都搬进内网。核心代码、客户名单、未公开财务数据、研发文档,先把这几类界定清楚,剩下的走混合架构就行。一刀切的私有化通常是最贵的那种做法。 2. 能不能接受能力折损。 让业务方拿内网版本跑两周真实任务,别看演示。如果体验落差大到员工绕着走,这套系统的合规价值等于零。 3. 换一个模型要多久。 直接拿这个问题问供应商。他要说"得重新实施",那你付的钱就不是买私有化,是又一次绑定。 这三件事挤在同一个星期,大概不是巧合。接下来一两年,把产品往本地搬的厂商只会更多。