9月8日，27岁的机器学习研究员Jacob Coxon在从Anthropic辞职后发出公开警告，指出当前AI公司并未以负责任的方式推进前沿模型，而是在竞相奔向具备自我改进能力的超级智能。Coxon认为，这种行为无异于拿人类生命赌博。许多研究者严肃地认为，一旦超级智能失控，AI可能对人类构成灭绝级风险。他指出，尽管Anthropic在安全方面付出了努力，但至今仍然没有解决超级智能对齐问题的可行方案，也未走在能够及时解决该问题的轨道上。这一警告引发了对人工智能安全治理、对齐研究和行业竞争节奏的进一步关注，凸显前沿AI实验室在追求能力提升的同时，亟需建立可验证的安全路线图和监管约束。