-
谷歌CEO:制造一个种族主义、性别歧视的AI非常容易
关键字:【文 观察者网/赵挪亚】
过去一年时间里,AI(人工智能)的伦理问题成为了各个互联网企业和各国政府讨论焦点之一,前有谷歌先后成立、取消AI道德委员会,后有欧盟公布AI道德准则,这一新兴技术在社会应用上的伦理规范尚需讨论。
不过,尽管谷歌一再强调AI的道德问题,但旗下的YouTube却曾在“巴黎圣母院大火”时,因AI算法引起争议,而他们设立的AI道德委员会也只持续了两周不到即告解散。
在5月8日凌晨举行的2019谷歌I/O开发者大会上,美国搜索引擎巨头陆续公布了新版的视觉化搜索系统、谷歌智能助手以及安卓系统,AI成为了贯穿整场大会的主题,而作为这一技术使用的前提,谷歌CEO桑达尔·皮查伊(Sundar Pichai)称他们正在努力解决人工智能的偏见问题。
谷歌I/O大会
在会上,皮查伊称凭借现有的机器学习和算法,要制造一个种族主义、性别歧视的AI非常容易。他表示,现有的AI机器学习本质上依靠的还是大量数据的输入,因此这些数据的公正性,将很大程度上左右AI在种族和性别问题上是否具有偏见。
皮查伊以谷歌旗下的AI算法举例:“如果你想用该技术来建立一个可以识别医生形象的AI模型,但却一直给它输入‘穿白大褂、带听诊器’的男性照片,那么最终这一AI将很可能认定,男性是识别医生照片的重要元素。”
而在另一个例子中,皮查伊也提到,AI算法可以用在鉴别皮肤癌的领域。但如果在训练阶段,研究人员一直给其输入同种肤色的皮肤癌照片,却遗漏了其他肤色,那么最终这一AI也将在诊断时出现误判。
皮查伊表示:“仅仅知道AI模型有效是不够的,我们必须知道它如何运作。早在机器学习出现之前,偏见就一直是科学界关注的问题。(在这个问题上)AI的风险显然更高。”
为此,谷歌提出了两个解决方案。其中之一,就是一种被称为TCAV(使用概念激活向量进行测试)的技术,它可以确定机器学习系统在做决定时,相关概念和数据在机器学习系统中的权重有多少,从而更好理解AI算法的逻辑。其次,皮查伊还提出,将会把部分开放数据分享给其他公司和AI技术人员,以此帮助更多人。
在最后总结阶段,谷歌举了一些例子说明了AI给社会带来的各种进步。比如,借助AI来算出患者的患病趋势,降低患者的死亡率;用AI预测洪水,龙卷风等灾害性天气。
尽管如此,谷歌的AI技术还是为他们引来了不少争议。
据《今日俄罗斯》4月16日报道,在“巴黎圣母院”大火期间,YouTube平台上部分新闻直播下方的信息栏(Info Box)内,出现了有关“911恐怖袭击”事件的说明,此事也引来了众多网友的批评,认为YouTube此举可能助长“阴谋论”的出现。
据截图显示,在France 24的直播视频下方,出现了“911恐袭”的说明
对此,谷歌发言人解释:“我们对巴黎圣母院的大火感到十分难过,但这些信息栏都由算法自动生成,有时候系统会出错。我们已经关闭了这些直播视频下方的信息栏。”
今年3月26日,谷歌宣布成立人工智能道德委员会,即先进技术外部咨询委员会,希望通过哲学家、工程师和政策专家组成的团队帮助解决人工智能带来的道德风险。
而到了4月4日,由于谷歌内部员工不满委员会成员凯·詹姆斯(Kay James)和戴安·吉本斯(Dyan Gibbens)的政治倾向,再加上耐基梅隆大学学者亚历山德罗•阿奎斯蒂(Alessandro Acquisti)教授的批评,谷歌宣布取消人工智能道德委员会。
除了谷歌以外,欧盟也于4月8日公布了人工智能道德准则,并要求“值得信赖”的AI应当满足包括“人类监督”、“技术安全”、“多样性和公平性”以及“透明性”在内的7个条件。
欧盟的AI道德准则
不过有部分研究者怀疑,欧盟制定的人工智能道德准则,将会影响到这一产业的未来发展。
智库机构数据创新中心(Center for Data Innovation)的高级政策分析师艾琳·奇沃特(Eline Chivot)4月8日在接受The Verge采访时说:“欧盟希望通过制定道德标准,来确定自身在全球AI发展中的地位,我们对这种方法持怀疑态度。要成为AI伦理的领导者,首先你必须在AI领域遥遥领先。”
本文系观察者网独家稿件,未经授权,不得转载。
- 请支持独立网站,转发请注明本文链接:
- 责任编辑:赵挪亚
- 最后更新: 2019-05-08 11:48:30
-
三星称折叠屏手机尚无发货日期 向美国客户道歉
2019-05-08 07:16 -
突破九碟装,希捷出货全球首款16TB机械硬盘
2019-05-07 18:19 大公司 -
微信罚了腾讯 网友:狠起来自己人都打!
2019-05-07 16:00 -
瑞士电信宣布正式提供5G商用服务 首款5G手机是中国品牌
2019-05-07 15:43 5G -
三星LG纷纷关停国内生产线 智能手机或难见“韩国造”
2019-05-07 14:49 -
5G手机市场预测以及相关受益产业链分析
2019-05-07 13:10 手机 -
ASML商业窃密案胜诉:获赔57亿,三星涉嫌
2019-05-06 21:27 大公司 -
红米骁龙855旗舰配置曝光,命名为K20 Pro?
2019-05-06 16:18 手机 -
任正非谈华为接班人条件 家人子女不接班
2019-05-06 14:25 华为 -
中国学者开创性实现量子“随机行走”
2019-05-06 11:55 科技前沿 -
我国在海水提铀关键技术上取得重要进展
2019-05-06 10:12 -
NASA:零件公司造假19年,致2发火箭发射失败
2019-05-05 16:39 航空航天 -
中国要花千亿造大型对撞机?杨振宁提7大理由反对
2019-05-05 15:30 科技前沿 -
中国5G专利占34%,华为不卖到美国也能收费
2019-05-05 12:03 5G -
中科院大气物理所:权游里的“凛冬”是怎样形成的?
2019-05-05 11:29 -
备货10万台华为折叠屏5G手机完工 售价或不超14000
2019-05-05 10:41 手机 -
华为Mate30Pro曝光:6.7寸屏,麒麟985,55W快充
2019-05-05 10:41 手机 -
中国的5G究竟领先在哪儿?
2019-05-05 10:30 5G -
三星手机中国市场沉浮记
2019-05-05 10:00 手机 -
时隔1年,三星智能机在华占有率重回1%
2019-05-05 09:38 大公司
相关推荐 -
荷兰“拼了”:阿斯麦,别走! 评论 81“嫌犯从乌克兰获大量资金和加密货币,有确凿数据” 评论 312美方对俄隐瞒了部分信息?克宫回应 评论 109国防部表态:中方不会在南海问题上任菲胡来 评论 192最新闻 Hot
-
荷兰“拼了”:阿斯麦,别走!
-
“我们美国人说要做的事,中国人已经做到了”
-
“嫌犯从乌克兰获大量资金和加密货币,有确凿数据”
-
“美正拟中国先进芯片企业黑名单”,驻美大使馆回应
-
“要三思啊,这种民族主义口号将毁掉国家”
-
“如果TikTok被禁,美科技巨头也应该被调查”
-
美方对俄隐瞒了部分信息?克宫回应
-
美主持人问了大家想问不敢问的问题,白宫“震怒”
-
法国叫停安理会会议,扎哈罗娃怒斥:做贼心虚
-
中国在全球率先商用5.5G,首批百城名单公布
-
这条中马“一带一路”重点铁路项目 “或延伸至泰国”
-
印度强烈抗议美国:民主国家不能这样
-
联合国再警告:英国这事令人担忧
-
“俄罗斯恢复死刑,没啥戏”
-
银河系中心超大质量黑洞,又一张偏振图像来了
-
竟还有这样给他们洗白的:“善良有爱心”、“胆小不敢杀鸡”…
-