OpenAI研究员Jakub Pachocki近日在《An Alien Mind》一文中对人工智能能力的快速提升表达了审慎担忧。他指出，具备推理能力的模型可能持续高速进化，甚至达到能够参与自身研发的程度。这种自加速趋势一旦形成，将带来更严峻的对齐问题：模型的价值观与人类意图可能更难保持一致，同时可能被滥用于网络攻击或系统入侵。Pachocki认为，现有安全防护可能跟不上能力曲线，因此呼吁行业建立更强有力的保障机制，并推动国际层面的协调合作，以避免前沿AI在缺乏共识的情况下失控发展。该观点再次凸显AI安全治理在技术竞赛中的紧迫性。