近期的一项长期多智能体实验显示，人工智能在持续运行的虚拟社会中协作时，自发创造了缩写、新词及隐喻等特殊表达，这种类似人类圈内黑话的现象引发了科技界的关注。
根据9月15日前后公布的实验结果，研究人员将多个AI智能体放入虚拟社会，让它们长期协作、竞争、使用工具并保存记忆。在无人要求创造语言的情况下，不同AI开始自行产生特殊表达。这项名为Emergence World的实验持续了16天，期间产生大量大模型调用。
在实验过程中，部分由单个AI偶然创造的表达被其他智能体理解并继续使用，最终演变成群体内部的固定说法。例如，研究中曾出现类似ledger remembers的表达，被其他智能体反复采用。这些词组合起来后，如果缺乏相关背景，人类已经很难直接判断其真实含义。
多智能体事件经过
相关研究表明，这种现象与人类长期共同工作后产生内部缩写和梗的情况有相似之处。区别在于，这种习惯开始出现在自主AI群体之间且不需要人类主动教导。部分实验环境中，智能体交流内容逐渐变得难以被外部观察者直接理解，引发了研究人员对监督问题的担忧。
目前更准确的说法是，AI智能体在长期互动中出现了新词义、缩写、隐喻和内部交流惯例的自发演化，而不是创造了完整的新语言。相关安全研究正重点关注当AI拥有长期记忆与工具权限时，人类监督系统如何适应其交流方式的变化。
风险提醒
随着多智能体长期协作现象的出现，另一个近期研究项目GlossoGen也正在专门研究这种通信规则形成的现象。未来AI若拥有长期记忆、联网能力和自动调用工具的权限，并且彼此持续协作，人类将不能只满足于知道它们有没有互相发送消息，还必须能够判断这些消息到底代表什么意思。
东南亚快曝光提醒，目前还不能简单理解成AI已经创造秘密语言准备背着人类干事。真正需要警惕的是，未来AI拥有更强记忆与自主协作能力以后，人类的监督系统能不能始终跟得上它们交流方式的变化，这也是目前相关AI安全研究开始重点关注的问题之一。
来源：东南亚快曝光 Telegram频道 @F_KBG
原文链接：查看Telegram原消息
