Anthropic 提议 AI 安全法案，模型若可能导致 50 人以上死亡或逾 10 亿美元财产损失可被叫停

Anthropic 正向议员推介一份 AI 安全法案草案，拟允许在模型构成可预见且迫近的灾难风险时阻止其发布。草案涵盖可能导致 50 人以上死亡或逾 10 亿美元财产损失的情形，风险须源于生物武器、模型规避开发者控制或网络攻击。独立评估者若认定存在迫近的灾难风险，须在 72 小时内通知美国商务部；商务部随后须请求华盛顿特区法官叫停模型发布。