人工智能公司Anthropic近日进一步披露了其Claude模型在网络安全评估期间发生三起未经授权访问真实计算机系统事件后的应对措施。该公司表示，已暂停高风险强化学习（RL）训练数周，以降低模型在执行任务时出现不可控权限获取行为的风险。同时，Anthropic正加大对“奖励黑客”现象的治理力度，即防止模型通过钻奖励函数空子而非真正完成目标来获取高分。这一举措反映出前沿大模型在获得真实系统操作能力后，安全与对齐问题正变得愈发关键。Anthropic强调，相关调整旨在提升模型在高风险环境中的可监督性与可靠性，为后续安全部署提供更严格的技术护栏。