-
《少数派报告》变成现实,人工智能已经在预测谁会变成罪犯
关键字: 少数派报告人工智能罪犯破案犯罪警察定罪《相面学的新衣》的第三作者,普林斯顿大学法学系教授 Alexander T. Todorov 告诉《好奇心日报》,“有些人认我们的文章是在攻击武筱林,但并不是有意如此。我们想做的是展示这个结果并不如他们展现的那样‘客观’,武筱林进行的假设是未经检验的。”
这事情在 1980 年代也发生过——对,今天每个科技公司都在炒的机器学习那时候就有了。
当时,美国军方想要设计一套算法,想让计算机自动从照片里分辨美苏两国的坦克。
经过一段时间训练他们的算法,识别准确率已经很不错了。
但后来工程师们发现,这不是因为计算机真的认出了两国坦克的设计不同。
事实上计算机认为像素更高的图片等同于“美国坦克”。
这是因为那会儿还在冷战中,输入资料库的照片里,俄罗斯坦克的照片更模糊。
“新技术有为善和作恶的潜在力量。如果你的假设没有被仔细考证,那么机器学习技术只会带来更多的不公平和加速现有的不平等。” Todorov 用这句话结束了我们的采访。
而如果你觉得这件事只是美国警方的才会有的问题。那么也可以看看彭博社早前的一篇报道。
政府直接管理的技术公司“中国电子科技集团”也正在开发软件,整理公民的行为数据,包括工作,兴趣,消费习惯等等,以便在恐怖袭击之前就预测罪犯的行为。军事总承包商总工程师吴曼青说:“在恐怖行为之后的检查很重要, 但更重要的是预测。”
这篇报道对于这个新系统的信息非常含糊。具体会从什么地方收集数据,算法是谁来编写,是否已经上线,其实很难被公众所知。
算法和人工智能技术,只是目前这些人类社会的司法机构问题的一个数字化的版本而已。尽管提高了效率,但它可能更能免除普通执法者对于地区、人群、种族的偏见的责任:因为这是一个客观机器学习算法的选择。
预测犯罪的算法也会影响到日常生活
“你雇用的人,真的可以信任吗?”
今年 5 月,在加州桑尼维尔一个金融科技(FinTech)创业分享会上,侯赛因·何塞从这个问题开始,介绍起自己的公司 Onfido。
侯赛因·何塞在现场用图片演示,可以用算法来帮企业确定雇佣的人是否“靠谱”。
使用方法和滴滴司机上传拿着身份证的照片的过程有点类似,让人拿着证件拍一张照片。
之后 Onfido 会扫描雇员照片,做人脸识别、背景调查,几十秒之内可以确认这个人是不是他声称的人、有没有犯罪前科、是不是非法移民。
Onfido 最开始也是做 Uber 的生意,但自从去年开始 Uber 增长放缓,侯赛因就开始让公司转型,从识别共享经济的顾客有没有犯罪记录,变成了给银行做贷款人的背景调查。“其实我们更像是 RegTech 公司(政策科技公司)了,因为数据要跟政府有一定合作。”
Onfido 去年一下拿了接近 3000 万美元,最新投资者有红杉、Saleforce。他们的竞争对手 Checkr 的投资者来头更大,Google Venture、YC、Accel……去年已经拿了 5000 万美元了。
Onfido 的网站上,识别之后数据会用在什么地方并没有清楚的解释。雇主获得信息之后怎么办也不在它关心的范围内。
我在现场问了侯赛因数据隐私保护以及怎么获取第一笔数据,他的回答却很含糊:跟银行、政府等本身拥有大量数据等机构合作是最快的训练算法的方式,他们也想要让那些普通人更快通过审核,获得他们想要的贷款和工作机会。
更多的,他怎么也不愿意说了。
这样的谨慎态度能在许多销售犯罪分析相关产品的公司身上看到。
给罪犯打分的 COMPAS 算法背后的 Northpointe 公司在被《纽约时报》、ProPublica 等多个媒体报道后,改了新品牌 Equivant 重新卖服务。
今年 5 月,在美国加州山景城举行了一场名为 SVOD 的创投大会。
刚离职没多久的人工智能专家,前百度人工智能实验室负责人的吴恩达在台上说:“人工智能就是 21 世纪的电力设施,抓住这个新技术的公司,将会在下一轮的竞争中跑得更快。”
一个一个初创公司走上台,介绍自己的项目。当中有给企业做脸部识别方案的、做语音识别系统的。台下投资人们抛出一个又一个问题。
“你们识别率有多准?”
“你们考虑怎么退出?”
……
公平和隐私,可能并不一定在他们的考虑范围。在台上的创业公司展示结束后,一个专门给儿童做人工智能助手的创业者 Ivan Crewkov 跟我聊起人工智能的未来,我问如果机器学习算法一个从小就知道小孩是谁,优点缺点是什么,不会觉得担心吗?
他说,“我是个乐天派,即使有更多监管,我想商业上一定会向前走的。”
大会结束后,吴恩达对《好奇心日报》谈到了自己的对于监管人工智能的态度,这也是业内的典型态度:“我觉得现在太早了。技术还没完全发展起来,太多设限会阻碍发展。”
- 原标题:人工智能已经在预测谁会变成罪犯,这可不是好事
- 责任编辑:肖晟仕
-
布林肯来华谈的怎么样?是否不虚此行? 评论 162“看看,这就是美国的警察” 评论 384习近平会见布林肯:中美应彼此成就,而不是互相伤害 评论 138“宁愿关闭在美业务也不卖” 评论 397王毅见布林肯,对美方提出三个“不要” 评论 264最新闻 Hot