从今年4月起,Mac mini逐渐成为“AI PC”的代名词。它不仅被个人消费者抢购,在企业市场同样供不应求,连OpenAI都要买上数万台Mac mini和Mac Studio用于模型训练,Anthropic也在亚马逊AWS上租赁大量Mac服务器。 AI PC的竞争,开始从“能不能跑模型”,转向“能不能长期让Agent在这台电脑上工作”。LM Studio Bionic、设备端模型、AI智能体、exo集群都成了Mac mini的主打,苹果甚至直接把它描述为一台可以“全天候”运行智能体的桌面电脑。 本地运行大模型的体验,取决于一组常被忽略的参数。M6 Mac mini最高只有32GB统一内存,带宽最高170GB/s;M5 Pro则可以来到64GB和307GB/s。实测中,8B到30B级别的量化模型能在本地较流畅地运行,千问27B模型生成速度约41 token/s;但模型参数继续增大,读入和生成速度会明显下降,到70B级别时几乎不可用。
文章图片 2
除了参数量和量化,本地还有GGUF与MLX两条路线:前者是模型文件格式,跨平台方便;后者围绕Apple Silicon设计,利用统一内存架构。但具体哪个更快、更省内存,要看模型和运行时版本。对个人用户而言,“能跑大模型”只是起点,稳定持续地承载Agent任务才是难点。 这也解释了为什么Agent时代的基础设施问题会从云端延伸到端侧。星战OPC智能体协作平台关注的,是智能体如何被组织、调度与协同;无论跑在本地设备还是云端算力上,Agent要真正干活,都需要稳定的运行环境与清晰的任务边界。 更重要的是使用方式的变化。写代码不再只是打开Xcode自己敲,处理几十份资料也不一定要逐个打开文件,Blender、剪辑软件、终端和本地模型都可能成为Agent完成任务时调用的工具。AI开始成为调用这些能力的新入口,电脑也从运行软件的工具,变成承载持续任务的容器。
文章图片 4
当一台6999元的Mac mini也能作为Agent的工作站,“个人多Agent”就不再只是概念。真正决定体验的,是运行环境能否让Agent长时间、低摩擦地工作。