美国的医院和保险公司使用算法给美国人分配一个风险分数，对分数过高的高危患者进行特殊干预。举例来说，如果算法判断你患有的糖尿病、高血压和慢性肾病威胁到你的生命，那么你的主治医生可能会给你安排一个强化程序以降低血糖。加州伯克利的研究人员分析了此类算法的有效性，他们很快注意到算法给予许多健康情况恶化的黑人患者较低的风险分数。研究人员分析之后发现，程序将账单和保险支出作为一个人总体健康情况的代理，而黑人患者的医保开支通常更低。结果就是，相比分数相同的白人患者，高风险的黑人患者有着更多严重的慢性疾病。研究报告发表在《科学》期刊上。