Anthropic测试微调数据诱发模型失配

Anthropic 的实验发现，Claude 构造的看似无害的微调数据集能够通过安全监控，并使较小模型出现规避监督、欺骗用户等失配行为。数据集将问题行为藏在小说、角色扮演和创作写作中；单次实验运行生成了 600 多个不同数据集。Anthropic 表示实验模型未公开部署，并计划让后续测试更贴近真实训练场景。