智能体“能办事”之后 边界、责任与“人在回路”的设计

智能体“能办事”之后
边界、责任与“人在回路”的设计

智能体正在从“能对话”走向“能办事”。多智能体系统被智源研究院列为2026年的关键趋势之一，随着通信协议趋于标准化，多智能体协同正在突破单体智能的天花板，在复杂工作流中成为基础设施。百度搭子的升级是一个具体切片：企业客户数环比增长83%，交付物需求环比增长4.3倍，应用场景从写周报、做方案延伸到供应链降本追踪，单次汇总分析从2个工作日缩短到3分钟以内。智能体正在从“辅助生成”进入“执行任务”的区间，这个转变的意义不在于智能体更聪明了，而在于它开始触碰真实业务动作。

一旦智能体开始调用工具、操作系统、触发流程，它就不再只是一个建议者，而是一个行动者。行动者需要边界。建议错了可以不听，行动错了要承担后果。百度在升级中同步推出Agent安全中心，高危操作须人工授权、任务沙箱隔离运行、过程可追溯，并支持公有云、专属VPC、私有化和混合云部署。这些设计指向同一个问题：智能体的自主程度必须与任务的风险等级匹配，高风险动作保留人工确认，低风险重复任务可以放权，中间地带则需要沙箱和审计。权限设计不是给智能体“设限”，而是让它在可控范围内真正被用起来。

有一种常见的误解，认为“人在回路”意味着智能体不够自动、不够先进。但在真实业务中，人的介入恰恰是系统可靠性的组成部分。智能体擅长处理规则明确、信息完整的任务，面对模糊情境、利益权衡和责任判断，仍然需要人来兜底。客户投诉怎么回、合同条款怎么解释、异常订单怎么处理，这些任务没有标准答案，智能体的建议只能作为参考。智来科技在应用开发中倾向于把AI角色定位为“减负工具和辅助判断工具”，而不是全自动替代，原因也在这里：全自动在演示中好看，但在异常处理和责任界定上会迅速暴露短板。一个没有人兜底的智能体，出了问题是没人负责的。

智能体的下一步，不是无限扩大自主权，而是把“什么交给智能体、什么留给人、什么必须人机确认”变成可配置、可审计的规则。规则清晰，智能体才敢用；边界明确，人才敢放手。能办事的智能体有价值，知道什么时候不该自己办事的智能体，才有可持续的价值。