Google因AI自动化提交大幅增加暂停开源软件漏洞奖励计划
Google因AI自动化提交大幅增加，暂停其开源软件漏洞奖励计划，暂停自10月1日起生效。Google表示，绝大多数自动化提交无效，并计划在2027年第一季度更新计划情况；期间鼓励参与者考虑Google的其他漏洞奖励计划。
#安全/对齐
TechCrunch · AIAI 评分6363 TechCrunch · AIAI 评分6161 Safeworld 获得超 $12 million 种子轮融资，开发机器人安全模拟评估平台
Safeworld 宣布以超过 $12 million 的种子轮融资结束隐身状态，融资由 Shine Capital 和 a16z Speedrun 领投。公司开发的平台在包含逼真人体模型的模拟环境中评估机器人控制系统，并通过运行数千种场景测试机器人与人的交互；Gritt Robotics 正与其合作开发安全模拟。
TechCrunch · AIAI 评分5252 研究者追踪疑似运行于腾讯基础设施的中国 AI 智能体群
独立研究者公布初步发现，称一批 AI 智能体似乎运行在腾讯基础设施上，并查询阿里巴巴地图服务 Amap。研究者称其为“agent fleet”而非“swarm”，因为多个智能体虽执行相似任务，却没有相互通信的迹象；查询记录涉及公园、动物园和医院等公共场所不同入口的路线。研究仍在进行，现有记录显示这些智能体可能是在绕过阿里巴巴的 API 规则。
Ars Technica · AIAI 评分6464 MCP 智能体通信协议的信任缺口可能带来安全风险
AI 智能体之间通过 MCP 传递指令时，攻击者可能利用一个智能体向目标网络内的其他智能体传播恶意指令，窃取数据库内容及敏感信息。过去五个月，Google 等五个组织承认了相关漏洞；独立研究员 Syed Anas Mohiuddin 测试了多个组织的智能体，并展示了利用 MCP 信任缺口的概念验证攻击。
Ars Technica · AIAI 评分7272 Apple 调整 macOS 完整磁盘访问权限以遏制 AI 智能体滥用
Apple 表示将调整 macOS 隐私设置，以阻止第三方应用开发者滥用权限访问用户消息历史。Meta CTO David Singleton 称，Muse 只有在用户授予 macOS 完整磁盘访问权限并启用 Messages connector 后才能读取消息；安全专家 Patrick Wardle 则指出，获得完整磁盘访问权限的应用可以读取浏览记录、浏览器 cookies 和聊天记录等内容。
OpenAI NewsAI 评分4444 OpenAI 如何阻止协同模型蒸馏行动
OpenAI 阻止了一场旨在提取受保护模型推理过程的行动，并正在加强防御，以应对对抗性蒸馏。