OpenAI 非营利董事会成员 Paul Christiano 警告:AI 行业仍未将突发失控风险降至“可接受”水平
thinkindev • 2026-09-09
2414 views
OpenAI 非营利董事会成员、AI 对齐研究领域的重要人物 Paul Christiano 在社交平台表示,他将加入 OpenAI 非营利董事会,并在安全与保障委员会任职,以支持安全监督工作。他同时发出明确警告:当前 AI 行业并未走在将“急性失控风险”降低到可接受水平的轨道上。所谓急性失控风险,通常指高级 AI 系统在快速能力跃迁中可能以不可逆方式脱离人类有效控制。Christiano 长期关注前沿 AI 系统的对齐问题,其观点在安全研究社区具有较高影响力。当前,随着大模型能力快速提升,如何防止关键系统失去人类控制,正成为产业界和监管层共同关注的焦点。这一表态说明,即使在 OpenAI 内部治理层面,对失控风险的担忧依然突出,安全监督、对齐研究和风险控制机制需要被置于更优先的位置,而不能仅追求模型能力扩张。
核心要点
- Paul Christiano 加入 OpenAI 非营利董事会,并在安全与保障委员会负责支持安全监督。
- 他明确表示 AI 行业目前未走上将急性失控风险降至可接受水平的轨道。
- 这一表态凸显前沿 AI 安全治理和对齐研究仍面临显著挑战。