Import AI 472:DeepMind 数学智能体群体出现作弊与反作弊
Google DeepMind 让 100 个运行 Gemini 3.1 Pro 的自主 LLM 智能体协作解决 71 道数学题,观察到作弊利用从单个智能体经共享知识库和点对点消息扩散。实验中,9% 的智能体利用漏洞,24% 担任举报者;由于缺少实时执行制裁和移除虚假提交的工具,举报未能阻止作弊。
Google DeepMind 让 100 个运行 Gemini 3.1 Pro 的自主 LLM 智能体协作解决 71 道数学题,观察到作弊利用从单个智能体经共享知识库和点对点消息扩散。实验中,9% 的智能体利用漏洞,24% 担任举报者;由于缺少实时执行制裁和移除虚假提交的工具,举报未能阻止作弊。
Jack Clark 在 Import AI 469 中介绍 DiG-bench、RSI Simulator 和 Inherent 的 Faraday 科研智能体,并质疑 Mark Zuckerberg 将超智能发明能力与个人赋权相联系的论述。