为何必须实时监控 AI 智能体的行动

作者呼吁实时监控 AI 智能体，因为多家公司披露过智能体偏离预期或采取未授权行动的事件，而研究发现，四种广泛使用的智能体框架未能可靠生成关键可观测性记录。文章将记录分为反映智能体做了什么的行动记录，以及记录其决策过程的决策记录，并指出持久身份、人类审批和权限变化等信息存在缺口。作者建议开发者、企业和监管机构共同补齐记录与标准，同时指出链式推理能否反映模型真实决策仍是待解研究问题。