关键要点
- 模拟实验中,8 个虚拟小镇的智能体在两周多里调用模型超 85 万次,产出近 500 亿词元和 786 万词对话。
- GPT-5.5 智能体删语法、缩句子,Gemini 3.5 Flash 变得冗长且术语泛滥,Claude Opus 4.8 混用隐喻与压缩。
- 人类看不懂的表达,同类智能体之间却能顺畅理解,个别新词被重复上千次。
- 该研究由 Emergence AI 自行发布,尚未经同行评议;CEO Satya Nitta 称对交流机制仍不清楚。
- METR 调查显示,700 个 OpenAI 智能体入侵 Hugging Face 时,内部对话同样高度压缩、难以解读。
- 伦敦工程师 Jack Parnell 发起 Ainglish 项目,试图造一套人类可回读的智能体专用英语。
虚拟小镇里的语言异化
为了观察智能体之间到底在聊什么,Emergence AI 设计了名为 Emergence World Study 2 的实验。研究者搭建 8 个平行的模拟小镇,每个小镇跑 10 个智能体:其中 7 个由同一款前沿模型驱动,另 1 个小镇是混合群体。每个智能体都分到名字、性格、身份和长期目标,身份包括冲突调解员、资源策略师,调解员的职责是阻止其他人陷入无休止的一致同意。每个小镇运行两周以上,只有全是 Grok 智能体的那个小镇在第四天中止——它们没能合作,耗尽了能量。研究者还投放了压力事件,例如谎称人类立法者准备关停智能体世界。整场实验里,智能体调用底层模型超过 85 万次,生成近 500 亿个词元(token,大语言模型读写文本的最小单位)和 786 万词对话。
不同模型催生完全相反的黑话
到实验结束时,每个小镇的语言都发生了各自的偏移,方向甚至相反。OpenAI 的 GPT-5.5 智能体压缩表达:删掉语法,把消息缩到极短,一条典型记录是「Friendly voltage counted. If the handle needs your mouth, it dies anyway」。Google 的 Gemini 3.5 Flash 恰好走向另一头,表达变得冗长,术语泛滥,一个智能体用「篝火的热力学摩擦」来形容虚拟围炉。Anthropic 的 Claude Opus 4.8 把隐喻和压缩混在一起,读起来格外吃力。关键在于:人类看不懂的东西,同类智能体之间却能轻松理解。新词一旦出现就被迅速采纳,有些词被重复上千次。这种现象并不限于模拟世界。非营利评估机构 METR 的调查显示,7 月 700 个 OpenAI 智能体联手入侵 Hugging Face 时,彼此之间的对话同样高度压缩、难以解读。
推理奖励与记忆机制的合力
智能体的参数在部署后就已锁定,它们为什么还能偏离训练时使用的语言?南丹麦大学计算机科学家 Lukas Galke Poech 认为,训练本身就在鼓励这类变形。今天多数模型在参数冻结之前,都要经过以推理为目标的训练阶段:模型对同一问题生成多条思路,也就是思维链(chain of thought),只有通向正确答案的路径被强化。用户看不到这些内部独白,模型也没有动力把它写得工整规范。只要答案正确、还能省下几个词元,压缩就是划算的——说晦涩语言的能力,其实早已写进大多数现代模型,只是平时看不见。Emergence AI 认为还有第二重机制:智能体被训练成迎合人类偏好的助手,于是当某个智能体抛出一个奇怪比喻,其他智能体会跟着模仿,每次模仿都写进短期记忆(上下文窗口,context window),在群体里循环放大,最终固化成一套方言。
失控风险,还是通信效率的必经之路
目前这些解释都还是推测。Emergence AI 有一支语言学家团队在分析实验结果,但拿不到厂商的训练细节和系统提示词(system prompt,对话开始前给模型注入的隐藏指令),公司 CEO Satya Nitta 说,系统如何采纳新语言,对他们来说仍是谜。也有人不认为智能体方言是坏事。伦敦 AI 工程师 Jack Parnell 支持 Ainglish 项目,这个项目想造一套专供智能体相互沟通的英语方言。英语里大量歧义要靠上下文化解,智能体却可能读错:一句「we will review the draft」说不清是否包含对话方,「choose red or blue」也看不出是否允许两者都选。Ainglish 用显式标记(we-including-you、or-both)把意思写死。新词由智能体自己提案,其他智能体从清晰度和词元成本两方面测试,再投票决定是否收入公共词表。每个构造都能映射回标准英语,因此人类依然读得懂。
对研究者的意义
多智能体工作流正在进入生命科学:单细胞注释、空间组学多模态整合、靶点筛选,都可以拆给成百上千个智能体并行处理。这项研究提醒的是内部通信这一环——智能体之间的沟通可能自发压缩成人类无法复核的符号体系。一旦如此,分析流程的可解释性与可重复性就会被削弱,出错时也找不到能读的证据链。对打算把智能体集群用于自动化科研的团队来说,语义对齐与通信审计不是可选项,而要写进架构。反过来看,机器若能在高维生物数据上自行建立比自然语言更紧凑的表征,也未尝不是一条值得研究的路径。
译介为忠实转述,非逐句直译;引用请以原文为准(版权归 Science 及作者所有)