在上周末举行的Data for Black Lives会议上，技术专家、法律专家和社区活动家讨论了美国的刑事司法系统，并提出了一些看法。

美国监禁的人数超过世界上任何其他国家。截至2016年底，有近220万成年人被关押在监狱中，还有450万人在其他惩教设施中。换句话说，每38名成年美国人中就有1人受到某种形式的惩教监督。

在不增加犯罪风险且减少监狱数量的巨大压力下，美国各地的法庭已经求助于自动化工具。警察部门使用预测算法来制定策略，执法机构使用人脸识别系统来识别嫌疑人。这些做法经受了各种审查，以确定它们是否真正提高了安全性，还是只是使现有的不公平现象长期存在。例如，研究人员和民权倡导者一再证明，人脸识别系统可能会失败，特别是对于皮肤黝黑的人，该系统甚至曾将国会议员误认为是罪犯。

但迄今为止最具争议的工具是在警方逮捕嫌疑人之后使用的犯罪风险评估算法。

风险评估工具旨在做一件事：收集被告的详细信息并给出一个累犯分数，一个表示他或她再次犯罪可能性的数字。然后，法官将这个分数用于各项考量之中，包括决定被告应该接受哪种类型的判决、是否应该在审判前将他们关在监狱中以及对他们进行什么程度的判决等。

使用这种算法工具的逻辑是，如果你能准确预测犯罪行为，就可以相应地分配资源，无论是恢复还是监禁。理论上，它还减少了一定的偏见，因为法官根据数据做出决策而不是他们的直觉。

但现代风险评估工具通常使用的都是历史犯罪数据。机器学习算法使用统计数据来查找数据中的模式。因此，如果你提供历史犯罪数据，它将挑选出与犯罪相关的模式。但这些模式是统计相关性而非因果关系。例如，如果算法发现低收入与高累犯相关，那么在低收入是否真的是导致犯罪的原因，这一点人工智能无法进行分析。

现在，一直被执法人员定位成高累犯风险的人群中包括低收入和少数族裔群体，由此可见，该算法有可能会产生偏见，并生成更多受偏见污染的数据，从而导致恶性循环。

关于这些工具的争论仍在继续。去年7月，包括ACLU和NAACP在内的100多个民权和社区组织签署了一份声明，希望不要使用风险评估。但与此同时，越来越多的司法管辖区和州由于监狱负担过重，已经开始求助于这些工具。