跳到正文
热点事件持续更新

Anthropic更新Claude使用政策,扩大高风险行为限制

2 篇报道2 个报道来源56 分钟前更新

先了解这件事

AI 综述

Anthropic更新Claude使用政策,明确禁止选举干预、武器软件开发、监控等滥用行为,并新增针对持续且无必要虐待模型的限制;违规处理仍主要通过终止对话执行。 Anthropic称,虐待限制只针对用户反复、无明显目的地残酷对待模型的极端情况,不涵盖常见不满、反驳、黑暗题材创作或模型测试与研究。新规还要求连接可能造成伤害的自主硬件时,须有合格操作员能够观察设备,并在必要时停止设备。

AI 根据报道生成 · 15 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. TechCrunch · AI
    Anthropic 更新使用政策,禁止模型滥用与干预选举

    Anthropic 更新使用政策,新增对选举干预、武器软件、监控及针对模型持续言语辱骂的禁令。政策称,辱骂限制仅适用于用户反复恶意对待模型且没有明显目的的极端情况,不涵盖常见的不满、反驳、黑暗创作主题或模型测试与研究。政策还禁止利用 Claude 运营虚假账号或虚构新闻媒体等欺骗性活动,以及欺骗选民或扰乱选举。

  2. The Verge · AI
    Anthropic更新使用政策,禁止对Claude持续且无必要的虐待行为

    Anthropic更新使用政策,新增对用户持续且无必要地虐待或残酷对待Claude的禁令,并细化选举干预、武器开发和监控等限制。对话终止仍是主要执行方式;新规还要求连接到可能造成伤害的自主硬件时,必须有合格操作员能够观察设备并在必要时停止设备。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。