-
《少数派报告》变成现实,人工智能已经在预测谁会变成罪犯
关键字: 少数派报告人工智能罪犯破案犯罪警察定罪从统计数字看,这些可能都是事实。但这样的数据被反过来用在判断一个个体未来犯罪的可能性,并就此量刑的时候,就有问题了。
这和前段时间被开除的那位美团点评人事在招聘信息里写的“不要黄泛区及东北人士”没什么本质区别。
在美国,COMPAS 是从 2000 年初就开始在全国的司法机构使用,这个算法已经修改到第四版。在各个州法官量刑或者警察盘查疑犯的时候,会把 COMPAS 分数作为参考。
2014 年,时任司法部长 Eric Holder 公开表示,美国法庭依赖算法来判定罪行,预测再犯罪是有风险的。Holder 表示,美国的法官量刑过于依赖这套评分算法。
看起来公平的算法,背后依然受设计者的偏见影响
有一个关于科研的比喻,说科学家在研究新东西的时候容易过度分析自己已经有的信息,强行从中获得结论,进而忽视了未知因素的影响。
一个人在室外停车场丢了钥匙,他首先会去看路灯照耀下的路面。
这不是因为钥匙更可能丢在路灯下,而是因为这里比较容易找。
人工智能算法判断一个人的犯罪可能也差不多。
MIT 教授 Ethem Alpaydin 曾经这么解释现在最新的机器学习的原理:
以前你需要知道特定的数据要来实现什么,于是雇佣一个程序员来编写程序。机器学习就是,现在计算机自己学会处理和识别这些数据,程序也是自己写的,然后导出你所需要的结果。
要做一个判定谁是罪犯的系统。首先,是这个机器学习算法的设计者在判断“什么样的人更容易犯罪?”然后再把不同原因分解开来,去搜集数据。
一个人犯罪的可能性有千千万万,而算法设计者输入进去的维度,就好像路灯下的路面。计算机强行在设计者觉得重要的维度里判断一个人犯罪的可能性。
更糟糕的是,今天的机器学习算法基本是黑盒子——输入了数据,等待输出结果。但当中机器是怎么识别的,即使是算法的设计者,也不能肯定。
上个月,上海交大教授武筱林和博士生张熙的论文引来争议。他们的论文《基于面部图像的自动犯罪性概率推断》用机器学习算法和图像识别技术扫描了 1856 张中国成年男子的身份证照片,让算法来判断这个人是不是罪犯,称成功率达到了 90%。
武筱林和张熙还总结了这些罪犯的面相特点:内眼角间距比普通人短 5.6%,罪犯的上唇曲率不一样,罪犯的鼻唇比非罪犯角度小19.6%,罪犯跟普通人相比,面部特征来的更明显。
这篇文章在发布之初就惹来了一些种族歧视的争议。5 月初,Google 和普林斯顿大学的三位研究人员写了一篇反驳文章,名为《相面学的新衣》。他们在文章中认为武筱林的研究方法跟 150 年前的意大利的“医学相面术”类似,只是使用了机器学习算法:
“1870 年意大利医生龙勃罗梭(Lombroso) 打开了意大利罪犯维莱拉尸体的头颅,发现其头颅枕骨部位有一个明显的凹陷处,它的位置如同低等动物一样。这一发现触发了他的灵感,他由此提出‘天生犯罪人’理论,认为犯罪人在体格方面异于非犯罪人,可以通过卡钳等仪器测量发现。龙勃罗梭并认为犯罪人是一种返祖现象,具有许多低级原始人的特性,可被遗传。
”来自 Google 的研究者 Blaise Aguera y Arcas 解释,神经网络算法“判断”图片的方式跟人不太一样:给数百万个学习参数加不同的权重。比如让算法判断一张图片是来自什么年代,机器学习很可能学到了发现各种细微线索,从比较低层次的“胶片颗粒和色域”到衣服和发型,乃至车型和字体。
所以机器学习到底从这 1000 多张身份证照片中学到的规律是什么?
不一定是罪犯的面部都有什么独特的特征,可能是图片的颗粒度,也可能是其他一些共同特点——例如衬衫。
例如,武筱林论文中的 3 个“非罪犯”图像中都穿着白领衬衫,而另外 3 名被判别为“罪犯”的都没有。当然,只有 3 个例子,Blaise Aguera y Arcas 写到,“我们不知道这是否代表整个数据集。”
而在我们都不知道机器学习的做判断的方式时,作为算法的设计者,我们人类给出的“假设”,以及我们给出的数据,可能决定了算法的走向。
- 原标题:人工智能已经在预测谁会变成罪犯,这可不是好事
- 责任编辑:肖晟仕
-
“中国这类影片太少,希望张艺谋抓住《三体》精髓” 评论 186瑞士和会上,他忍不住说了实话:他们不来,无法影响俄 评论 343又一名校回应!要不要破格录取,到底听谁的? 评论 569美俄核潜艇同时现身古巴,“让人想起冷战” 评论 189最新闻 Hot
-
“中国这类影片太少,希望张艺谋抓住《三体》精髓”
-
为争取“喘息窗口”对华下手,自己却先内斗了?
-
“如果需要50名中国工程师来印度建厂,只有10人愿意来”
-
“乌克兰从未说过中国是敌人,希望和中国做朋友”
-
反对扩招,首尔大学医院部分教授今起无期限停诊
-
“14国拒绝签署联合公报,无一国愿‘接盘’下次和会”
-
内塔尼亚胡谴责以军
-
“欧盟加税是为保护汽车行业?但他们不想要这种‘保护’”
-
“澳大利亚需要与中国在采矿方面合作,因为美国没有技术”
-
遭受“最致命事件之一”后,以军宣布“局部战术停战”
-
撬拜登墙角,特朗普罕见前往黑人教堂
-
“哈马斯已准备好接受美国提议的加沙停火协议”
-
英媒自曝:自己造不了,又担心中国“使坏”…
-
瑞士和会还开着呢,美德日领导人提前走了
-
瑞士和会上,他忍不住说了实话:他们不来,无法影响俄
-
“计划未来几周内访问中国”
-