会议背景EMNLPConference on Empirical Methods in Natural Language Processing自然语言处理实证方法会议由 ACL 专委会 SIGDAT 主办自 1996 年起每年召开是自然语言处理领域顶级国际会议。2017 年 EMNLP 于 9 月在丹麦哥本哈根举行。论文信息标题Men Also Like Shopping: Reducing Gender Bias Amplification using Corpus-level Constraints奖项EMNLP 2017 最佳长论文Best Long Paper Award作者群作者单位简介赵洁玉Jieyu Zhao弗吉尼亚大学 → UCLA研究方向为机器学习中偏见的探测与消除北航本硕曾于滴滴研究院实习王天露Tianlu Wang弗吉尼亚大学浙江大学士导哈为 Vicente OrdóñezMark Yatskar华盛顿大学NLP 与图像处理领域多篇高质量论文Vicente Ordóñez弗吉尼亚大学助理教授NLP 与计算机视觉交叉方向UNC Chapel Hill 博士毕业Kai-Wei Chang弗吉尼亚大学 → UCLA助理教授UIUC 博士师从 Dan Roth曾参与 LibLinear 开发核心问题机器学习算法在带有社会偏见的数据上训练后可能放大原有的偏见。例如训练集中女性与做饭共现比例为 66%男性为 34%相差约 30 个百分点经算法训练后测试集上该差距可能扩大至 68 个百分点女性达 84%。论文目标消除算法对偏见的放大效应使测试集上的偏见水平回归到训练集水平而非追求性别完全平衡。核心方法1. 偏见值Bias Score定义目标变量与特定属性如性别之间的比例关系。由于同一属性下各选项如男性/“女性”比例之和恒为 1训练集与测试集上偏见值的差异即可量化偏见放大程度。2. 限制条件建模对测试集预测标签施加约束使预测结果分布逼近训练集中的偏见水平。该问题形式化为经典限制优化问题。3. 拉格朗日简化法Lagrangian Relaxation由于限制优化涉及整个测试集的全局优化计算量随测试集规模急剧增长。作者采用拉格朗日简化法将原问题转化为非限制优化问题迭代更新对每个测试样本计算当前最优标签修正方案再更新拉格朗日参数遍历一次测试集即收敛。关键约束算法使用测试数据但不需要测试集真实标签仅依赖训练集标签信息。实验与效果数据集任务类型规模基础模型imSitu视觉语义角色识别12 万张图片212 个动词条件随机场CRFMS-COCO多标签图片分类80 类物品条件随机场CRF两数据集均使用 CRF 为基础模型特征采用基于深度学习的预训练特征在此基础上施加偏见调整算法。结果测试准确度基本不变的前提下性别偏见值最高降低40% 以上。要点总结机器学习算法会放大训练数据中已有的社会偏见在 NLP 任务中尤为突出。论文提出基于限制优化的测试结果校正算法以偏见值为核心度量指标。通过拉格朗日简化法将全局优化转化为可高效求解的迭代流程无需测试集真实标签。在 imSitu 和 MS-COCO 上验证偏见大幅降低准确率基本不损失。延伸阅读论文原文Men Also Like Shopping: Reducing Gender Bias Amplification using Corpus-level Constraints