金沙城线上娱乐平台

犯罪前算法中的错误使得有偏见的警务变得更糟

作者:雍饨    发布时间:2017-09-01 19:15:03    

纽约时报/ Redux / Eyevine作者:Matt Reynolds旨在计算犯罪发生的时间和地点的预测性警务承诺将实现数据驱动型执法的未来但是,在所使用的软件设计中发现的一个缺陷表明,预测算法不是在管制中修复偏见,而是应该归咎于一系列全新的问题犯罪前技术在美国正在流行 PredPol是一个市场领先的系统,已被加利福尼亚州,佛罗里达州和马里兰州等地的警察部门使用他们希望这样的系统能够降低犯罪率,同时减少警察中的人为偏见但是,当美国的研究人员研究PredPol如何预测犯罪时,他们发现了令人不安的事情他们的研究表明,该软件仅仅引发了一个“反馈循环”,导致军官被多次送往某些社区 - 通常是那些拥有大量少数民族的社区 - 无论该地区的真实犯罪率如何(arxiv.org/abs/) 1706.09847)问题源于PredPol用来决定应该派遣军官的逻辑如果一名官员被送到一个社区然后被逮捕,该软件将此视为表明将来该地区有更多犯罪的可能性伦敦艾伦图灵研究所的马特库斯纳说,这意味着PredPol系统似乎是从警方记录的报告中学习 - 在警察更多的地区可能更高 - 而不是从潜在的犯罪率 “这就是反馈循环的危险程度,”纽约大学的约书亚洛夫特斯说,他没有参与这项研究尽管这些循环只是PredPol如何做出预测的一部分,但他表示,他们可以解释为什么预测性监管算法有时似乎重新创造了他们的创造者所说的他们所克服的种族偏见 “软件中的'反馈循环'导致官员被重复发送到某些社区”为了更好地理解系统如何得出结论,研究团队创建了PredPol软件的简化数学模型该算法选择如何在两个位置之间分配一定数量的人员如果更多的人被送到一个地方,他们往往会在那里逮捕更多人该团队发现,这会反馈到系统中,并导致更多人员进入同一个地方这意味着该软件最终高估了一个街区的犯罪率,而没有考虑到更多犯罪被发现的可能性,仅仅因为有更多的官员被派往那里 - 就像电脑版的确认偏见一样可能有一种方法可以阻止反馈循环作者还建模了一个不同的系统,其中如果该地区的犯罪率高于预期,该算法只会派遣更多的官员到附近这导致它以更接近真实犯罪率的方式分配官员 Loftus说,在监管算法真正被称为公平之前,还有许多问题需要解决 “人类的决定会影响系统设计的各个方面,”他说例如,如果军官更有可能逮捕少数民族,那么该算法可能会被抛弃这篇文章出现在标题“犯罪前系统中的缺陷”领域:

 

Copyright © 网站地图