solidot新版网站常见问题,请点击这里查看。

机器学习可以既公平又准确

人工智能
wanwan (42055)发表于 2021年10月28日 17时41分 星期四
来自刀剑神域进击篇05
卡内基梅隆大学(CMU)的研究人员挑战一个长期以来的假设,即在使用机器学习做公共政策决策时,要在准确性和公平性之间进行权衡。 随着刑事司法、招聘、医疗保健服务和社会服务干预等领域对机器学习的使用不断增加,人们愈来愈担心此类应用会引入新的或者扩大现有的不平等,特别是针对少数族裔和经济劣势人群。为了防止此类偏见,机器学习系统的数据、标签、模型训练、评分系统等方面都进行了一些调整。基本的理论假设是这些调整让系统变得不太准确。

卡内基梅隆的一个团队希望通过一项新的研究消除这些假设,研究论文发表在《Nature Machine Intelligence》上。 研究人员发现,针对准确性进行优化的模型——机器学习的标准实践——可以有效地预测感兴趣的结果,但在干预建议方面表现出相当大的差异。当研究人员对旨在提高公平性的模型的输出进行调整时,他们发现基于种族、年龄或收入的差异(视情况而定)的不平等可以被消除,而且不会降低准确性。