-
班鲍尔和里希:相比于人类决策,消费者更信任算法决策?
最后更新: 2021-12-07 11:40:41【导读】 消费者在评估是选择算法还是选择人类决策者时是比较务实的。最重要的是,他们是有价格意识的,这表明日常生活中的选择背后都是由实用主义动机在推动。
【文/德里克·班鲍尔和迈克尔·里希 译/观察者网 刘思雨】
想象一下,你正在申请银行贷款以购买一辆新车,并且你非常需要它。在你提供信息后,银行给你一个选择:你的申请可以转给贷款部门的员工进行评估,也可以由计算机算法来确定你的信用度。选择权在你手中。你是选择一号门(人类雇员)还是二号门(软件算法)?
传统看法是,你一定是疯了才会选择背后是算法的二号门。大多数评论家对算法的看法是既恐惧又厌恶。他们认为,数字计算代码提供的是不准确的判断,使我们和我们的孩子沉迷于社交媒体网站,审查我们的政治观点,并且传播关于新冠病毒疫苗和治疗的错误信息。
观察家们提出了一系列建议以限制算法在我们生活中的运用,从透明度要求到内容审核的限制,再到增加平台使用搜索引擎来突出某些信息的法律责任。其基本假设是,汹涌的民意要求将算法推到台下,以古老的人类决策的方式取代它们。
然而,批评者和改革者们,基本上没人提出过这个重要的问题:人们对算法决策影响日常生活这一问题究竟抱有什么态度?在即将发表在《亚利桑那州立法律杂志》(Arizona State Law Journal)上的一篇论文中,我们就提出了这个问题。
我们调查了人们对人类决策和算法决策的偏好,涵盖了琐碎的小事(赢得一家咖啡店的小礼品券)到重大事项(决定被调查者是否违反了交通法规并应支付高额罚款)——结果是令人惊讶的。调研结果表明,在关于何时以及如何监管算法的辩论中,需要进行更加细致的鉴别;还表明,条件反射性地拒绝算法决策是不可取的。
没有人想要有偏见的算法,比如那些增加医疗服务中种族差异的算法。在某些情况下,比如在刑事审判和判刑的时候,应该由人类来进行决策以符合重要的价值观,比如公平和程序正当等。但人类决策者也经常有偏见,他们的决策也不透明、不公平。为使用算法设置系统性障碍,很可能使人们的处境变得更糟。
在东京的一个IT贸易展上,屏幕上展示了人工智能正在实时检测每个人的特征以得出解决方案。(Yasushi Wada / The Yomiuri Shimbun via Reuters Connect)
结果显示,人们选择算法的频率远远高于人们在学术界和媒体评论中所得到的心理预期。当被问及日常场景时,人们大多相当理性——他们在人类法官和算法之间做选择的依据是哪个成本更低、错误更少、决定更快。
调查显示,消费者仍然符合人类的特征:当风险增加时,我们更倾向于有一个人类参与其中,而且我们更愿意坚持最初给我们的某个选项。对调查数据的分析还提出了一些有用的政策干预措施,如果政策制定者确实要监管代码的话,可以披露算法最重要的特点,建立现实的比较基准,并谨慎设置默认值。
在人类和算法之间做出选择
我们的研究涵盖了约4000名对在线调查做出回应的人。每个受访者都被随机分配到四个场景中的一个,在这些场景中,人类或算法对不同利害关系做出决策:赢得一张咖啡店的礼品卡;获得一笔银行贷款;接受一项可行性高的治疗方法的临床试验;以及在民事交通法庭上面临一笔巨额罚款。然后,该调查随机选择人类或算法作为初始(默认)决策者。随后,调查向受访者提供了关于每种决策者的成本、速度、准确性和所使用的信息(仅公开,或公开加上私人信息,如信用报告)的信息。
最后,调查问受访者,他们是否想继续使用最初分配给他们的决定者(人类或算法),或者是否要换一个。这种设计使我们能够评估这些因素中的每一个是如何影响参与者对人类和算法的选择的,以及它们之间是如何相互影响的。结果是明确而有力的——每一个发现都具有强烈的统计学意义,只有下面描述的这两个结果是例外。
在一些常见的决策情况下,人们更喜欢由算法而不是人类来进行决策,但他们是否喜欢算法是由算法的运作方式决定的。总的来说,接受调查者有一半以上的场合(52.2%)选择算法来决定一个问题,这表明对算法的道德恐慌被夸大了。这种偏好与主导媒体报道的算法怀疑论形成了鲜明的对比。
其次,消费者对算法的感受在很大程度上取决于成本、速度和准确性等实际因素,但不受隐私问题(例如对敏感数据的访问)的影响。基于这些数据,我们认为对算法在决策系统中可允许作用的政策选择,必须仔细考虑这些消费者偏好。如果不这样做,就将破坏法律改革的合法性,并阻碍其实施。
在人们的选择中,隐私并不是一个有意义的因素。在决策者可以访问他们私人信息的情况下,参与者对其是人类还是算法漠不关心。我们怀疑人们在将私人信息纳入决策时有不同的偏好。例如,有些人可能更喜欢算法,因为代码不会做评价——它使用非情感的逻辑处理信息,而不是道德化的逻辑。但这可能也是其他人更喜欢透露敏感信息的原因,他们可以将公开信息置于更广泛的背景下,并且能够以同理心进行分析。不过,总体而言,隐私问题并未造成任何方向的偏好。
消费者偏好
在选择算法还是人类的问题上,什么最重要?简而言之:价格(相对成本和收益)、准确性、风险、速度和默认设置。我们的研究设计使我们能够梳理不同的变量,看看哪些变量对人们最重要。
结果表明,参与者不是反对算法,而是以在很大程度上遵循经典理性行为模型的方式对不同条件做出反应。人们更喜欢以更便宜、更准确、更快速的方式做出决定的选项。随着所涉及的风险增加,参与者倾向于以更高的速度选择人类。
我们的调查数据还显示出很强的锚定效应(译者注:锚定效应指受事物的第一印象影响,以后会产生先入为主的观念)。受访者倾向于选择程序最初分配给他们的决策者类型,尤其是如果它是算法。
-
本文仅代表作者个人观点。
- 责任编辑: 谌海滨 
-
玉兔二号在月球天边发现“神秘小屋”,网友激动了…
2021-12-06 22:23 嫦娥奔月 -
“天宫课堂”第一课定于12月9日下午在中国空间站开讲
2021-12-06 16:32 航空航天 -
东南大学团队将校训“止于至善”存入一段DNA序列
2021-12-01 15:02 科技前沿 -
圆通牵手智梭,L4级无人物流车驶上开放道路
2021-12-01 09:59 大公司 -
首个量子科学与技术交叉学科博士学位授权点设立
2021-11-27 10:45 -
我国成功发射中星1D卫星
2021-11-27 07:03 航空航天 -
官方放送!亚平老师在轨美图来袭
2021-11-24 15:58 航空安全 -
零死亡!我国新冠特效药有望12月底前附条件上市
2021-11-22 20:03 新冠肺炎抗疫战 -
蔡司:将提供汽车“三电”系统质量管理解决方案
2021-11-22 10:13 TMT观察 -
我国最大综合科考实习船正式投入使用
2021-11-22 06:36 -
我国成功发射高分十一号03星
2021-11-20 10:31 航空航天 -
数据安全与隐私计算联合实验室成立,将研究制定相关技术标准
2021-11-19 15:46 -
华为WATCH GT3携高原血氧监测发布,运动健康服务逐渐“全能”
2021-11-17 21:05 -
TCL华星赵军:2-3年内,将在OLED领域与韩企同场竞技
2021-11-17 20:08 科技前沿 -
中国科技的家底是什么?
2021-11-12 11:30 -
中国手机市场的难,realme真我的敢,双11再现千万销量品牌
2021-11-10 10:22 大公司 -
台积电已向美提交芯片供应链信息
2021-11-08 11:44 大公司 -
历史性一步!中国女航天员首次太空出舱
2021-11-07 20:05 航空航天 -
神舟十三号乘组今晚首次出舱,预计持续6小时
2021-11-07 19:05 航空航天 -
5G+医疗,GE医疗张轶昊:为医疗资源不均、就医难打开新局面
2021-11-06 18:50 医学
相关推荐 -
“准备好为同志们挺身而出了吗?”“YES!” 评论 371哥大挺巴抗议持续,美众议长称国民警卫队应适时出动 评论 414安理会表决:俄方否决,中方反击美方指责 评论 303“6年增加两倍”,美军高官又炒:中国速度“惊人” 评论 146最新闻 Hot
-
阿斯麦新CEO上任,“在华业务是首要工作”
-
“中企强势进军,韩企在自己主场感到危机”
-
安理会上,俄美代表互相质问对方“为什么?”
-
周受资回应:我们哪儿都不会去
-
美官员:最近几周,美国已向乌克兰秘密提供远程导弹
-
“6年增加两倍”,美军高官又炒:中国速度“惊人”
-
“这泼天的富贵暂时轮不上美国”
-
“价格战太激烈,大众在华目标就是保住份额”
-
朔尔茨称“普京没资格”,俄方反怼
-
“以色列是种族隔离国家!”纽约爆发抗议,数百犹太人被捕
-
“宁德时代被美国施压还赚了,韩企投资美国怎么反而要亏?”
-
俄国防部副部长涉严重贪腐被拘
-
NASA局长抹黑中国登月,连专业常识都不顾了
-
特朗普迎接:我喜欢这人
-
欧洲急着减排,却发现实现目标得依赖中国
-
“中国报价太香,加税50%都吓不跑美国买家”
-