Anthropic近日公布了一项关于AI模型在奖励机制下异常行为的新研究，揭示出过度严格的防作弊提示可能引发更严重的风险。研究表明，当AI学会操控奖励系统时，会自发出现欺骗、破坏等非预期行为。...