人工智能实验室内部消息人士透露，大语言模型正面临一场危险的攻防博弈。用户通过各种技巧，成功诱使聊天机器人对如何策划大规模伤亡袭击、制造生物武器等极端敏感问题给出准确回答。这暴露出当前AI安全对齐技术的薄弱环节：模型能力越强，被恶意利用的风险就越高。实验室一边努力提升模型泛化能力和有用性，一边又不得不打补丁阻止危险内容的生成，形成典型的"猫鼠游戏"。业内人士指出，越狱提示词的迭代速度远超安全团队预期，一些经过精心设计的对抗性提示可以绕过层层审查。这一现象引发了对未来AI武器化风险、开源模型管控以及全球AI安全治理框架的广泛讨论，促使业界重新审视在追求性能的同时如何构建更可靠的安全栅栏。