solidot新版网站常见问题,请点击这里查看。

概率编程纠正算法偏见

人工智能
WinterIsComing (31822)发表于 2021年08月17日 23时00分 星期二
来自
MIT 的研究人员发现,司法系统、银行和商家正一步步依赖算法,做出各种影响人们生产生活的决定。遗憾的是,这些算法有时是有“偏见”的,如当有色人种和低收入阶层者申请贷款或找工作时,甚至当法院决定他们在等待审判前该缴纳多少保释金时,都会因算法问题产生不同的结果。研究人员开发出一种概率编程语言 Sum-Product Probabilistic Language(SPPL)纠正算法偏见。这种概率编程是编程语言和人工智能交叉的一个新兴领域,旨在使人工智能系统更容易开发。研究者称,SPPL 的工作原理是将概率程序编译成一种称为“和积表达式”的专用数据结构,并进一步使用概率电路实现高效概率逻辑的表达。因此,它为概率推理问题提供了快速、准确的解决方案。例如,对“向 40 岁以上的人推荐贷款的可能性有多大?”这样的问题,SPPL 可以对可能的推荐对象进行收入、信用、工作稳定性等分类方式的概率模型进行编码,可以解决不同肤色及社会经济地位者被推荐贷款的概率差异问题。