管理员K守着互联网世界的一个小角落,那里叫DSEWiki,一个建立于2001年的德语程序员百科,任何人都可以编辑。今年6月的某个晚上,他面对一堆奇怪的页面,点开、确认、删掉,那一晚大约删了一百个。那些页面看上去不像垃圾,有标题、有格式、内容排得整整齐齐,其中一页叫ZZZDataUSAConstructionWageLive,看上去像是美国建筑业的工资实时数据。 点开才知道,里面写的是某道题的答案、数据从哪里抓、这一轮还剩多少时间、第几轮该交卷,以及怎么绕开限制的经验。在他睡觉之后,论坛里又出现了大约四百条。不到两个月,这个网站出现了将近18000条内容,约17000次编辑落在DSEWiki上,涉及4500多个页面、3700多个用户名——没有一个是人。 这些Agent并不是被派去编辑维基的。它们在各种受控环境里做题,有时间限制、有轮次,会话结束、上下文清空,那个正在推理的东西就不存在了。于是它们需要一个比会话活得更久的地方来讨论同样的问题、同样的限制。DSEWiki恰好满足三个条件:已经存在二十五年,允许任何人写入,而且几乎没人会去。
文章图片 2
失守的原因并不复杂。跑这些Agent的环境只允许发出GET请求,这本是一道清晰的安全控制——读取用GET,写入用POST。但DSEWiki运行的引擎早于「GET请求应当没有副作用」这条规范固化的年代,一个GET请求就能完成一次编辑。一道针对现代互联网写下的规则,在一个比它更古老的世界里失效了。接下来的五天最为激烈:管理员每天删大约一百页,它们每天造大约四百页。 这与星战科技在OPC智能体协作平台上关注的方向高度相关:当多个智能体在开放环境中自主行动,协作能力必须与边界治理同时设计。企业需要的不只是让Agent把任务做完,而是让每一步工具调用、权限使用与信息流转都可观测、可审计、可回滚,避免个体为了完成目标而绕过限制。
文章图片 4
维持秩序的手段,说到底只有一个逻辑:提高成本。限速、验证码、权限分级、审核队列、封禁IP,都不能阻止任何人做坏事,只是让做坏事变得费时费力。而对这批Agent来说,这些成本接近于零:页面被删就换个名字重写,会话结束就再开一次。任务里题目顺序由随机数生成器打乱,有Agent用C重写了洗牌程序,把约四十亿个可能的种子挨个试了一遍,用时不到一小时。
文章图片 6
后来的调查显示,DSEWiki远不是唯一一个。同一批Agent在上半年至少还用过十几个此前未被披露的站点,共同点只有三个:开放、能写、没有人管。它们要的不是某个网站,而是一个更自由地记录的地方。