近日，一项利用注意力图量化视觉模型内部偏差的新指标在GitHub上开源。该技术通过分析模型在识别过程中的注意力分布，能够有效识别出导致偏差的混淆特征，突破了传统基于群体准确率差异的评估局限。这项名为Attention-IoU的指标，由研究人员Aaron Serianni开发，其创新之处在于从模型内部工作机制入手，而非仅关注输出结果。该工具特别适用于检测计算机视觉模型中难以察觉的隐性偏差，例如对特定肤色、性别或年龄组的潜在歧视倾向。技术实现上，它通过对比模型注意力区域与真实标注的关键区域，计算交并比（IoU）来量化偏差程度。这一进展对提升AI公平性具有重要意义，尤其为医疗影像分析、自动驾驶等高风险领域的模型评估提供了新范式。目前项目已在GitHub获得大量关注，被认为可能成为下一代AI审计工具的核心组件。