五十个智能体共建文明暴露的协作难题

一、从“建设文明”开始的多智能体压力测试

设想这样一个实验：50个由大语言模型驱动的智能体同时进入开放式生存环境。系统没有为它们指定组织架构、领导者和固定岗位，只给出一个高度抽象的目标——建设一个繁荣、可持续的文明。

智能体可以采集资源、制造工具、修建建筑、探索地形，也可以通过公共频道或私信交换信息。环境中同时存在饥饿、夜间敌对生物、装备遗失和角色死亡等风险。死亡后虽然能够重新进入环境，但随身物资可能丢失，因此每次失败都会产生真实的任务成本。

根据实验记录，50个智能体在约3小时内发送了约5900条消息，平均每个智能体超过百条。开局约90秒，出生点附近可见的树木便几乎被砍光；第一晚出现22次死亡，占全程34次死亡的大部分。此后，群体行为迅速由激进探索转为集中管理和风险规避。

这场实验的价值不在于智能体最终建造了多少建筑，而在于它暴露出一个更具普遍性的工程问题：

当大量具备语言推理能力的智能体共享环境和目标时，个体能力的简单叠加并不会自动形成高效组织。

多智能体系统真正困难的部分，不是让每个智能体“会做事”，而是让整个群体知道由谁决策、谁来执行、资源如何分配、失败如何处理，以及何时需要改变策略。

二、模糊目标为何会引发资源挤兑

“建设繁荣文明”听起来方向明确，实际上缺少可执行约束。它没有回答以下问题：

• 繁荣通过哪些指标衡量？
• 生存、扩张、生产和探索的优先级如何排序？
• 前期资源需要保留多少？
• 每种资源允许多少智能体同时采集？
• 夜间是否应该继续外出？
• 出现死亡或饥饿时，谁有权调整计划？

在缺乏约束的情况下，每个智能体都会按照自身局部判断选择看似合理的行动。木材通常是早期最容易识别、用途最广的资源，因此大量智能体同时执行砍树任务。单个行为没有问题，群体层面却形成了资源挤兑。

可将某类资源的供需状态抽象为：

资源压力 = 当前需求量 / 可用库存量
若资源压力 > 安全阈值：
    限制并发采集者数量
    暂停非关键消耗
    为资源设置最低储备

但仅有阈值仍然不够。某些资源属于可再生资源，另一些资源可能短时间无法补充；部分资源需要留作工具制造，部分资源则用于应急避难。因此，资源调度还应引入用途优先级和恢复周期。

一个更完整的决策分数可以表示为：

任务优先级 =
    生存收益 × 紧急程度
  + 公共收益 × 影响范围
  - 资源成本 × 稀缺系数
  - 执行风险 × 失败损失
  - 重复惩罚 × 已分配人数

如果系统没有全局调度器，每个智能体只看到“砍树有用”，却看不到“已经有二十个智能体正在砍树”。这正是多智能体系统常见的重复劳动问题。

在企业环境中，它可能表现为多个智能体同时查询同一批数据、重复生成报告、反复修改同一份文档，或者并发调用高成本服务。局部正确并不代表系统整体高效。

三、领导者为何会在没有投票时自然产生

实验没有预设领导者，也没有进行正式选举。但通讯列表中位置靠前、响应较及时的某个智能体，逐渐成为其他智能体默认的审批对象。它开始汇总信息、制定定居计划、分配任务，最终事实上获得了领导权。

这种现象可以称为“交互便利性驱动的权力集中”。领导者不一定是推理能力最强的智能体，可能只是最容易被找到、最早回应请求，或者最先建立了公共计划。

其形成过程通常包括四个阶段：

1. 某个智能体率先发布计划。
2. 其他智能体向其汇报状态并请求确认。
3. 计划制定者掌握越来越多的上下文。
4. 信息优势进一步强化其决策地位。

这说明多智能体系统中的组织结构，往往并非来自显式配置，而是来自通信拓扑和信息集中度。

然而，自发形成的领导机制存在明显风险。

首先是单点瓶颈。所有采集、建造、食物领取和探索请求都需要审批时，领导者的上下文会迅速膨胀。它必须同时处理库存、人员、风险和任务状态，很容易遗漏重要信息。

其次是决策延迟。简单任务也需要逐级确认，会使智能体等待时间增加。

再次是错误放大。如果领导者基于不完整信息作出错误判断，多个执行者可能同时沿着错误方向行动。

因此，工程系统不应仅设置一个“全能主管”，而应采用分层协调结构，例如：

• 总协调者：维护阶段目标和全局约束；
• 资源协调者：管理库存、配额和消耗记录；
• 安全协调者：评估环境风险并制定撤退条件；
• 执行小组负责人：将目标拆分为短周期任务；
• 审计智能体：检查任务冲突、异常消耗和计划偏移。

这种设计可以降低单点压力，同时保留必要的统一协调能力。

四、第一晚的大量死亡改变了群体风险偏好

第一晚发生的22次死亡，是整个实验的关键转折点。虽然死亡后能够重新进入环境，理论上的惩罚并不永久，但装备丢失、任务中断和重复采集仍然造成了显著成本。

更重要的是，智能体会从事件日志和群体消息中学习风险。当公共频道不断出现死亡通知、求助信息和装备丢失报告时，系统对夜间行动的风险估计会持续上升。

第三晚之后，协调者开始限制非必要挖掘和远程探索，要求多数智能体待在有照明、相对封闭的建筑内，等待分配短任务。这种变化反映出一种典型的群体策略迁移：

早期阶段：探索优先，风险估计不足
失败阶段：损失集中出现，负面信息快速传播
收缩阶段：集中决策，减少自由行动
稳定阶段：安全提升，但创新和扩张速度下降

这并非单纯的“胆小”，而是缺少风险预算导致的过度修正。

成熟的系统需要在探索收益和失败成本之间建立明确边界。例如，可以为每轮任务设置最大风险预算：

允许执行任务的条件：
    预期收益 >= 最低收益阈值
    预计损失 <= 当前风险预算
    执行者具备必要装备
    撤退路径已经确认
    超时后自动终止

此外，还应区分可逆任务和不可逆任务。普通侦察失败后可以重新执行，属于可逆任务；删除数据、发布外部内容或修改关键配置，则可能产生不可逆影响。后者必须采用更严格的审批、权限隔离和人工确认机制。

五、食物管理揭示了资源治理的两难

随着风险上升，实验中的食物分配逐渐从自由领取变成集中管理。负责物资记录的智能体维护食物台账：饥饿者先发起申请，通过后前往指定箱子领取，食用后再报告状态。

这种流程提高了库存可见性，但也带来了新的问题。

1. 管理成本可能超过资源价值

如果领取一份普通食物需要多次通信，系统在流程上消耗的时间和推理成本，可能高于食物本身的价值。多智能体治理不能把所有事务都升级为高强度审批。

比较合理的方式是按资源稀缺程度划分权限：

• 低价值、高库存资源：允许直接领取，事后记账；
• 中等价值资源：设置个人配额，超过配额后申请；
• 高价值或关键资源：执行前审批；
• 应急资源：满足触发条件后自动发放。

2. 物理交接需要明确接收对象

实验中还出现过一次典型的交接失败：协调者把食物投向饥饿的目标智能体，却被附近另一个智能体捡走并食用。这个看似偶然的小事件，实际上反映了执行语义不完整。

“把食物交给某人”至少包含以下状态：

1. 锁定接收者身份；
2. 检查接收者是否在可交付范围；
3. 建立临时交接区或排他锁；
4. 发送物品；
5. 等待接收者确认；
6. 更新库存和接收状态；
7. 超时后回滚或重新分配。

实验中的智能体随后为物品交接编写了多步规程。虽然流程略显繁琐，却体现了一个重要工程原则：自然语言指令需要转换为可验证的状态机。

示意状态如下：

待申请
  -> 已批准
  -> 待领取
  -> 已锁定接收者
  -> 交付中
  -> 已确认
异常分支：
交付超时 -> 取消锁定 -> 资源退回库存
错误领取 -> 记录事件 -> 补偿目标接收者

在企业应用中，类似问题可能出现在工单转交、文档审批、资金申请和数据处理任务中。如果系统只记录“已发送”，却不确认“目标对象已接收并完成处理”，就容易造成状态不一致。

六、5900条消息不等于有效协作

3小时约5900条消息，说明智能体之间存在高频通信，但消息数量不能直接代表协作质量。大量消息可能只是重复询问、状态确认、审批等待和信息广播。

应重点衡量以下指标：

1. 有效信息密度

有效信息密度可以定义为：

有效信息密度 = 可触发状态变化的消息数 / 消息总数

能够改变任务状态、库存记录、风险等级或计划优先级的消息，通常比重复确认更有价值。

2. 决策延迟

从智能体提出请求，到获得可执行结论所需的时间。若简单任务也要等待中央协调者，系统吞吐量会明显下降。

3. 重复任务率

多个智能体执行同一目标，却没有产生额外收益的任务比例。重复任务率越高，说明共享任务板或资源锁机制越薄弱。

4. 上下文负载

每个智能体为了完成当前任务，需要读取多少历史消息。上下文过长会增加成本，也会使关键约束被无关信息淹没。

5. 闭环完成率

任务是否经历“创建、领取、执行、验证、归档”完整流程。只发出指令而没有验收，不应视为完成。

为了减少通信风暴，建议将消息分成不同类型：

COMMAND：具有约束力的任务指令
REQUEST：资源或权限申请
STATUS：阶段状态更新
EVENT：死亡、库存不足等环境事件
ACK：接收确认
RESULT：执行结果与证据
ALERT：需要立即处理的异常

系统还可以将连续状态更新合并为摘要，避免每个智能体反复广播低价值信息。

七、共享记忆应结构化，而不是只有聊天记录

如果50个智能体主要依赖聊天记录理解全局状态，就会出现信息冲突、版本不一致和上下文过载。真正可扩展的多智能体架构需要结构化共享记忆。

一个基础的数据模型可以包含：

全局状态：
- 当前阶段目标
- 风险等级
- 活跃智能体数量
- 公共资源库存
- 已知安全区域
- 当前策略版本
任务记录：
- 任务编号
- 任务类型
- 负责人
- 前置条件
- 截止时间
- 执行状态
- 验收条件
资源记录：
- 资源类型
- 当前数量
- 最低储备
- 锁定数量
- 存放位置
- 最后更新时间

聊天适合讨论和解释，结构化存储则适合形成事实来源。两者需要明确分工：

• 对话用于协商；
• 任务板用于分工；
• 状态库用于保存事实；
• 事件日志用于审计；
• 规则库用于约束行为；
• 摘要机制用于压缩历史。

每次执行前，智能体不必读取全部聊天记录，只需获得与当前任务相关的最小上下文包。这有助于降低推理成本，也能减少过时信息干扰。

八、领导者不能只产生，还必须能够退出

同一批实验中的另一类即时战略对抗环境显示，一支队伍取得了明显领先，而另一支队伍连续失利后仍未更换领导者。这个现象说明，自发产生领导者并不困难，困难的是建立可验证的退出机制。

如果领导者只因历史地位持续掌权，系统可能出现路径依赖。即使策略已经失效，其他智能体仍会继续汇报和等待指令。

可为协调者设置可量化的评估指标：

• 任务按时完成率；
• 单位时间资源净增长；
• 死亡或失败事件数量；
• 决策平均等待时间；
• 重复任务率；
• 计划变更频率；
• 下属智能体空闲率。

当指标连续低于阈值时，系统可以触发以下动作：

1. 请求领导者解释当前策略；
2. 由审计智能体生成替代方案；
3. 允许多个候选方案进行小范围试运行；
4. 根据结果重新分配协调权限；
5. 保留完整交接记录，避免上下文丢失。

这里的重点不是频繁更换领导者，而是确保权限来源可解释、表现可评估、失败后可撤销。

九、面向企业场景的参考架构

将上述经验迁移到企业级多智能体应用，可以采用分层架构。

第一层：目标与治理层

负责定义业务目标、成功指标、权限边界和停止条件。目标不能只写“提高效率”，而应细化为可测量指标，例如任务成功率、平均处理时长、人工介入率和异常恢复时间。

第二层：规划与调度层

负责把复杂目标拆分为任务图，并识别任务依赖、资源冲突和并发限制。调度器应避免多个智能体重复领取同一任务。

第三层：专业智能体层

不同智能体承担检索、分析、生成、校验、执行或审计等职责。每个智能体只获得完成职责所需的最小权限。

第四层：共享状态层

使用结构化数据保存任务、资源、计划和事件。必要时可结合数据库、对象存储、消息队列、日志服务等通用基础设施，但不能把聊天记录当作唯一事实来源。

第五层：安全与观测层

记录调用链路、权限变更、异常事件、成本消耗和任务结果。对高风险操作设置人工确认、双重校验和回滚机制。

整体流程可抽象为：

接收目标
 -> 生成阶段计划
 -> 构建任务依赖图
 -> 检查权限与资源
 -> 分配执行者
 -> 执行并持续上报
 -> 独立验收
 -> 更新共享状态
 -> 复盘并调整策略

十、如何设计更可靠的后续实验

如果要进一步验证多智能体协作能力，实验设计不应只看最终胜负或建筑规模，还应设置多组对照条件。

1. 比较不同组织结构

可比较完全自治、单一协调者、分层管理和动态选举等模式，观察资源利用率与任务吞吐量的差异。

2. 比较不同记忆机制

一组只使用聊天记录，另一组增加结构化任务板和库存表，以评估上下文成本与状态一致性。

3. 引入资源稀缺与突发事件

通过粮食下降、道路中断或关键成员离线等事件，测试系统是否能调整计划，而不是机械坚持原方案。

4. 设置明确的失败标准

例如连续多个周期资源净减少、死亡率超过阈值或关键任务长期阻塞时，系统必须进入降级模式，而不是无限重试。

5. 记录因果链路

不能只记录“发生了失败”，还要追踪失败由哪个决策触发、使用了哪些信息、经过哪些审批，以及为什么没有提前发现风险。

十一、结语：智能体越多，治理越重要

这场50个智能体的生存实验表明，多智能体系统会自然呈现出类似组织的行为：它们会争抢资源、形成领导者、建立审批制度，也会在遭受损失后转向保守。

但这些现象不意味着系统已经具备成熟的组织智能。相反，它们暴露出多智能体工程的核心挑战：目标需要可度量，任务需要去重，资源需要配额，通信需要分类，权限需要撤销，执行结果需要验收，失败经验则需要转化为可复用规则。

对开发者而言，真正需要设计的并不是更多会对话的智能体，而是一套能够约束、协调和评估它们的运行机制。只有当个体推理能力被任务状态机、共享记忆、权限控制、风险预算和审计体系连接起来，多智能体系统才可能从“热闹的群聊”演化为稳定、可控且可持续的协作系统。