虽然AI预测犯罪很有用，但有时候偏见也不小

一部分人认为人工智能可以消除人类偏见。在商务、医药、学术、打击犯罪等领域，即使是简单的统计工具也远超人类。还有一部分人反对AI将偏见系统化，因为即使偏见未被编入程序，AI也自带偏见。

2016年，ProPublica(一个独立的非盈利新闻编辑部，为公众利益进行调查报道)发布了一份广泛引用的报告(Machine Bias)，该报告认为，预测犯罪概率的常用算法(COMPAS)带有种族歧视。一份新的研究报告(The accuracy, fairness, and limits of predicting recidivism)显示，至少ProPublica提到的案例算法，双方不相上下，算法并不比人类精确公正。该报告还显示：某些情况下，人类对高级AI的需求被过度放大。

自2000年起，名为COMPAS的专有算法开始用于预测再次犯罪，即猜测某名罪犯是否会因再次犯罪而被逮捕。ProPublica的记者观察了来自佛罗里达州的罪犯样本，发现那些并未再犯的人群当中，被COMPAS错误标记为高风险再犯的黑人人数几乎是白人的两倍。而那些再犯人群中，被错误标记为低风险再犯的白人人数却是黑人的两倍，这激怒了公众。但此后，有报道又称，算法比人们想象中的公正。风险评分相同的黑人和白人，再犯的几率也相同，因此并不存在种族差异。算法是否公平，取决于衡量标准，任何算法都不可能满足所有标准。

研究人员将预测再犯(罪)概率的准确性作为主要衡量标准。受试网络用户阅读的罪犯信息涉及七个方面，包括年龄、性别和犯罪记录。研究人员使用COMPAS软件预测。

COMPAS内部的算法未知，但能够读取每个与人类预测的精准度和公正度基本相似，还有两大惊人发现。其一，已知罪犯种族(第一组受试者和COMPAS的使用数据均不涉及种族信息)，第二组受试者预测再犯概率时表现的偏见度与不知情时基本一致。

其二，要与COMPAS媲美，无需137条数据(甚至7条都用不上)，也不用聪明的头脑或算法。某次试验中，研究人员使用了一个极其简单的机器学习算法(逻辑回归)，仅需罪犯的两条数据(年龄及此前犯罪的总次数)，预测精准度就可高约65%。研究人员还尝试了一个需7条数据完成预测的强大算法(非线性支持向量机)，但精准度并未提高。该项发现证实了一点(许多人工智能研究员也曾提及)：“深度学习”这一时下热门技术并非万金油。有些时候，仅需最简单的算法和极少量数据即可解决问题。

此外，研究人员还想强调，预测社会问题并非总是有迹可循。这些算法预测的不是再犯的概率，而是被再次拘捕的概率。然而，即便同一种罪行，黑人往往比白人更容易入狱。因此，算法(或人类)如果从包含人类种族偏见的数据中学习预测模式，很容易过度预测黑人的再犯率，从而增加其入狱率，陷入不公平循环。

达特茅斯大学计算机科学家Hany Farid 曾与学生Julia Dressel(现已毕业)开展了一项研究，希望这一发现能让法院重新审视算法的地位，比如法官在得知网络投票可信度不亚于复杂的系统预测结果时，能够对其再次评估(补充一句，法官或许会更信任前者)。Farid称：“我们希望算法的工作原理更加透明。”

不少案例证明人工智能有时要比人类更精准公正。然而，反之亦然，人工智能和人类有时也不相上下。我们需要提倡此类研究，以验证AI能做什么，不能做什么。