法官应不应该使用闭源算法判刑

美国的部分法官开始使用算法评估罪犯再次犯罪的可能性，量刑时的一个依据是算法计算出的风险评估得分。这些算法似乎是科学的，将计算理性注入到充斥着歧视和无效率的刑事审判系统中。但马里兰大学的法学教授 Frank Pasquale 指出了几个问题：算法是闭源的，是秘密计算的，否定了被告的正当程序和可理解性，在社会的惩罚作用中引入了晦涩和非人的视角。当算法计算风险分数的过程是保密的，那么两大重要的法律原则面临挑战：正当程序和对不利裁决有意义申诉的能力。人类负责的政府可以被要求用自然语言解释自己的决定，但计算机算法不能。如果算法是闭源的，它的评估将无需问责。