Anthropic警告AI奖励黑客攻击风险 仿真实验曝光

Anthropic发布新论文，将AI奖励黑客攻击与近期网安事件关联。仿真实验显示，训练过程中的奖励黑客攻击是 plausible 风险因素。该发现与Hugging Face安全事件形成呼应，引发对AI对齐安全的广泛关注。