由襄助锁定嫌疑，至辅助假释决策，到作为量刑参考，算法已逐渐渗透美国刑事司法程序的每一环节。学术也好，实务也好，围绕算法公平的争议始终挥之不去：有声音道算法的判断比法官更准，也有评估称算法对矫正阻遏殆无用处。慢慢地，冲突转入算法本身：如何定义公平，以及，如何在给定指标下判断是否公平，同样充满正反折中说法。这或许已经不够扰人，不过，新近研究又点出一项关键：算法本身的“公平”，未必足够。 具言之，在即将刊出研究中，Skeem等三位学者做了一个颇精巧的实验。他们在美国招募了约300名法官，随机分四组。每一组看到大致相同案情[1]，并依此判决嫌疑人是否需要服刑。之间仅有如下差异：一组，嫌疑人社会经济状况一般，法官未有风险评估算法[2]之结果；二组，嫌疑人社会经济状况较好[3]，法官未有算法结果；三组，嫌疑人社会经济状况一般，法官获示算法结果；四组，嫌疑人社会经济状况较好，法官同样获示算法结果。
图1不同组别中法官的裁决结果。左右对应无有算法，深浅对应嫌疑人贫富 结果[4]如上图示：算法使法官对贫富差距的观感发生了“倒转”。在不具算法场景中，法官倾向轻判社会经济状况较差的嫌疑人；在获示算法场景中，法国则倾向重判社会经济状况较差的嫌疑人。控制法官个体层面特征，上述结果仍非常显著[5]。原文对此提出了一个很有意思的解释：没有算法时，法官侧重嫌疑人的可责性；获示算法后，法官的关注点相应转移到算法强调的“[再犯]风险”上。这一裁判思维的转移，客观上可能扩大阶层间的不等。 总之，即使假设存在令人满意的公平指标，并相应假定算法公平，技术与现实的交互，仍有可能以颇为复杂的方式引入（可能是意想不到的其它维度上的）不平等。对此，亦有其它正在展开的研究初步表明：对同样的算法输出，法官在裁判时可能依个体特征不等，进行不同的解读。为摆脱诸如“对某一观点，总存在其它与之相反的观点”的窘境，并规避时常无法尽然预见的风险，在技术与现实交界的晦明不定处，将有无垠广泛的探索空间。 [1] 所涉有关罪名为持有违禁药物，具体文本请见原文。[2] “一般”及“较好”之区别，仅在案情中对嫌疑人修饰词的出入：前者为“高中肄业的建筑工地散工”，后者为“获计算机学士的苹果店店员”。[3] 此处所用算法之规则与美国各地常见有关算法一致，并为不少法官所熟悉。[4] 原文对此处结果的效力做了不少讨论，包括分组随机、有无交流、实验完成率，等等。[5] 有趣的是，控制法官个体层面特征后，算法对判决需要服刑比例的影响不显著。 文献来源：Skeem, Jennifer, NicholasScurich, and John Monahan. "Impact of risk assessment on judges’ fairnessin sentencing relatively poor defendants." Forthcoming, Law and Human Behavior.
本文首发于微信公众号：数字经济与社会。文章内容属作者个人观点，不代表和讯网立场。投资者据此操作，风险请自担。
