漫话开发者 - UWL.ME Mobile
Loading more...
漫话开发者 - UWL.ME Mobile

人工智能公司 Anthropic 近日正式阐述了其对开放权重模型(open-weight models)的官方立场,明确表示并未倡导对这类模型实施全面禁令。公司认为,能力相对有限的开放权重模型具有公共品属性,能够促进学术研究、透明性与社区创新。Anthropic 反对将“开放”与“封闭”简化为二元对立,转而主张建立基于模型能力的精细化管理体系。具体而言,该公司呼吁加强对高端 AI 芯片的出口与使用控制,从算力源头遏制大规模滥用风险;同时倡导对工业化规模的模型蒸馏行为进行干预,以防止别有用心者通过大量提炼前沿模型能力来低成本复现高风险系统。更为关键的是,Anthropic 要求针对具备足够能力的模型(无论开源还是闭源)强制推行安全性测试与评估,确保在发布前对潜在的生物安全、网络安全和自主能力等重大风险进行充分审查。这一立场凸显了头部 AI 企业在安全治理上正在形成的共识性转向,即不再围绕开放与否进行道德化争论,而是依据能力阈值构建可验证的安全护栏,从而在激励良性生态与防范灾难性风险之间寻求动态平衡。

核心要点

  • Anthropic 反对全面禁止开放权重模型,认为较低能力的开放模型具有公共价值。
  • 该公司建议从芯片控制、大规模蒸馏干预和强制性安全测试三方面构建分级安全治理框架。
  • 这一立场体现了 AI 治理从“开放/封闭”的二元争论向基于能力阈值与可验证评估的系统化路径转变。

Read more >