Anthropic提出GRAM方法:为AI模型内的双用途知识装上可关闭的“开关”
thinkindev • 2026-07-11
2335 views
AI模型在学习过程中不可避免地会掌握大量“双用途知识”——既能用于网络防御、漏洞检测等正面场景,也可能被用于网络攻击和信息窃取等恶意目的。如何在不削弱模型整体能力的前提下,精准管控这类敏感知识,一直是AI安全领域的棘手挑战。Anthropic最新公布的研究提出了一种名为GRAM(Gradient-Routed Auxiliary Modules,梯度路由辅助模块)的新方法。GRAM的核心思路是在同一个大模型内部,为不同类别的双用途知识构建专门的“隔间”,并通过梯度路由机制将相关知识隔离在相应的辅助模块中。当模型需要执行某项任务时,系统可以动态关闭或打开特定模块,相当于为敏感知识装上了可以随时切断的开关。初步实验结果表明,GRAM能够有效地隔离和控制双用途能力,不仅能防止这些危险知识在日常使用中被意外激活,还能抵御来自使用者试图恢复或窥探已移除知识的对抗性尝试。这项研究为构建更加安全可控的前沿AI系统提供了新思路,也让开发者在不放弃模型通用性的同时,获得了更细粒度的风险治理手段。
核心要点
- GRAM通过梯度路由辅助模块,在单一模型内为不同类别的双用途知识建立可隔离的专用隔间。
- 该方法能在任务执行时动态关闭或打开敏感知识模块,实现类似“开关”的精准控制。
- 实验显示GRAM可以抵抗对抗性尝试,有效阻止被移除知识的恢复与泄漏。