转载

法官应不应该使用闭源算法判刑

  美国的部分法官开始使用算法评估罪犯再次犯罪的可能性,量刑时的一个依据是算法计算出的风险评估得分。这些算法似乎是科学的,将计算理性注入到充斥着歧视和无效率的刑事审判系统中。

  但马里兰大学的法学教授 Frank Pasquale 指出了几个问题:算法是闭源的,是秘密计算的,否定了被告的正当程序和可理解性,在社会的惩罚作用中引入了晦涩和非人的视角。

  当算法计算风险分数的过程是保密的,那么两大重要的法律原则面临挑战:正当程序和对不利裁决有意义申诉的能力。人类负责的政府可以被要求用自然语言解释自己的决定,但计算机算法不能。如果算法是闭源的,它的评估将无需问责。

正文到此结束
Loading...