漫话开发者 - UWL.ME Mobile

Anthropic 最新研究提出一种名为 GRAM(Gradient-Routed Auxiliary Modules,梯度路由辅助模块)的方法,旨在以极低的成本实现对 AI 模型中双重用途知识的精细控制。双重用途知识指既可造福社会也可能被滥用的敏感能力,如某些生化或网络安全知识。传统做法需要为每一种过滤条件单独训练一个模型,成本高昂。GRAM 通过在单一模型中构建多个专用的、可移除的“知识隔间”,每个隔间对应一类双重用途知识,并在训练过程中仅让相关隔间学习对应的敏感数据,其余参数保持不变。更关键的是,这些隔间在训练后可以根据需要被干净地摘除,相当于为模型装上了针对危险能力的“关闭开关”,而无需牺牲通用性能。这一框架为模型安全治理提供了更灵活、更强大的技术基础,使得开发者可以在部署前或部署后精准剔除潜在风险能力,有望成为负责任 AI 发布流程中的关键组件。

核心要点

  • GRAM 能以训练一个模型的成本,实现训练多个独立过滤模型的效果,为每个双重用途知识类别分配专用的可移除模块。
  • 训练时只有对应模块被更新,训练后可单独删除,从而精准移除模型中不希望保留的敏感能力。
  • 该机制为 AI 模型的安全发布和事后管控提供了更坚固的防线,增强了可控删除的技术可信度。

Read more >