-
傅莹:人工智能变动国际格局,中国倡导什么规则?
关键字: 人工智能国际格局国际规范三、人工智能将如何影响国际规范?
人工智能可能对现行国际规范带来一系列冲击。
第一,人工智能有可能改变战争的内涵和形式。美国学者斯蒂芬·平克指出了人类相互间使用暴力减少的历史大趋势,认为“今天我们也许处于人类有史以来最和平的时代”。王缉思对当今世界战争明显减少的现象给出了5个方面的解释,包括:大国发动战争可能付出的成本和代价大大高于可能的收益,通过非战争手段也可以获得过去需要通过战争才能获得的收益,国家间相互了解的增加以及危机预防和管控机制的普遍建立,国际军控机制的建立,和平作为一种国际价值观的深入人心。
人工智能的发展有可能使国家和非国家行为体在是否使用军事手段解决矛盾的选择中,顾虑下降。至少从理论推演的结果看,人工智能能够从决策者、军队、民意3个层面减少对战争的制约,降低战争门槛。无人武器使得战争行为者的人员伤亡预期可以降到近乎“零”。人工智能技术的快速迭代和新材料的广泛运用将极大地压缩战争的物理成本,让战争的经济适用性上升,甚至变得有利可图。这使得决策者发动战争的诱惑增大、顾虑减少。“超视距”作战的可能性和机器人战士的出现,将进一步从心理上解放士兵。未来战争中,士兵或许不必上战场,作战任务可以通过事先设计好的算法,由“人工智能将军”指挥无人自动武器完成。“极速战”可以极大压缩战争时间,在出现民意的反弹之前战争就可以结束了。这些可能改变人们对战争的立场,让暴力回潮。
2018年10月,美国陆军协会陆战研究所发布的报告《影响力机器——让自动化信息作战成为战略制胜机制》称,在人工智能的帮助下,利用算法生成内容,实施个性化的目标锁定和采用密集的信息传播组合,可以生成“影响力机器”,实施信息作战,由此能产生指数级的影响效应。该报告认为,“影响力机器”信息作战在战略层面上的影响力远胜于人工智能技术在其他领域的应用。因为它可以在机器学习的辅助下,对情感、偏见和价值观等指标进行筛选,并锁定那些心理最易受到影响的目标受众,然后将定制的“精神弹药”快速密集的“射向”目标群体,达到影响其心理、操纵其认知的目的。
第二,人工智能可能冲击全球战略稳定。约瑟夫·奈曾经谈到,核武器的出现使军事力量作为维护安全的手段走到了极限,甚至走向其反面。人们认识到,在核战争中没有赢家,核武器可能使全人类面临灭亡的危险。而人工智能将挑战经典的“相互确保摧毁”理论。兰德公司在2018年发布的《人工智能对核战争风险的影响》报告中分析认为,到2040年,人工智能技术的进步使报复性核反击力量成为目标并被摧毁的可能性大大增加,从而削弱“相互确保摧毁”的基础,打破核战略平衡。即使各国无意发起先发制人的攻击,也会倾向于追求先发制人的能力,以此作为与对手讨价还价的手段,而这无疑将破坏战略稳定。
第三,人工智能的自身特点让建立相关国际军控和防扩散机制变得困难。在2018年7月清华大学第七届世界和平论坛“人工智能与安全”分论坛的讨论中,《智能时代的战略竞争》报告的作者之一格里戈利·艾伦(Gregory C.Allen)说,人工智能也有军民两用性,但其军事应用不同于核,更像电。如果可以认为核是一种黑白技术,只存在“有”或“没有”两种状态,一国要么是有核国,要么是无核国。而电则是一种光谱技术,就像红橙黄绿蓝靛紫七色光有不同的波长和媒介反射率一样,不同的国家都可以用电,只是应用方式和程度会有很大差异。人工智能在军事上的应用更像电,无法禁止哪一个国家使用人工智能。就像美苏冷战期间的军备竞赛一样,未来很可能出现人工智能强国之间的算法竞赛。问题是,当年美苏通过军控谈判签署了一系列核导军控协议,确定了基本规则,未来的人工智能强国间能否本着同样的精神达成算法控制协议呢?艾伦认为,从目前大国关系态势看,达成这样的共识几无可能;然而,考虑到未来无序发展的风险,大国又必须认真考虑就此进行共同探讨的必要性。
1987年签署的《中导条约》 图片来源:东方IC
第四,人工智能给国际法带来了一系列的问题。在应用人工智能武器的条件下,国际人道法和战争法的有关原则是否能够继续适用?比如,区别对待军民目标的“区分原则”、禁止过分攻击的“比例原则”、非军事手段无法达成目标的“军事必要原则”,对作战手段的限制等。有没有必要针对人工智能武器制定专门的规则?在智能化战争条件下,如何区分战斗人员和非战斗人员?战争机器人是否享有人道待遇?人工智能武器是否对其造成的损害有承担责任的能力?如果它不具备承担责任的能力,那责任主体应该是武器的制造者还是使用者?当人工智能武器侵犯国家的主权原则时,它的行为能否触发国家责任?
第五,人工智能可能冲击国际关系民主化。人工智能的发展有可能固化国际权力结构,深化小国、弱国对强国、大国的科技、经济和安全的依赖。当“赢者通吃”的人工智能技术竞争和商业竞争规律复制到国际关系上时,必然会冲击大小、强弱国家间的主权平等关系。当主要大国之间的竞争加剧时,结盟关系是否会再度成为弱国的必然选择呢?而结盟本身就是一种盟主和盟友之间的不平等关系。
第六,人工智能对全球治理提出了新的课题。人工智能的发展对于解决当今世界面临的三大困境(老龄化、数字化和气候变化)都具有意义。而更大的挑战也许是人工智能带来的对于“人”的价值的进一步思考。一些国家和城市也开始探索试行“普遍个人收入“制度”(UPI,universal personal income)。但这必定是一个需要汇聚全球智慧与力量共同去思考和实践的问题。
在规则与制度层面上,以数据为例,在近代人类历史上,国际社会先后就自然人的跨境移动、船只和飞行器等交通工具的跨境移动、资本和商品的跨境移动等,形成了普遍认同的规则和制度安排。当前,数据作为一种资源的重要性与日俱增,随之而来的问题是:数据跨境转移应遵循什么规则、在什么样的制度安排下进行?数据的产生方、使用方、输出方、接收方等利益相关各方分别享有什么权利、承担什么义务?数据本土储存和跨境转移之间是什么关系?国家与数据企业之间是什么关系?这些都将是未来全球治理的难题。2019年G20的东道主日本已经提议将全球数据治理列入G20的议程。
四、我们该如何选择?
目前,即便走在人工智能技术最前列的科研人员也承认,人类距离制造出达到人类智慧的机器人,还有比较长的距离。目前,人工智能可能带来的安全威胁更多是人类本身利用人工智能去威胁人类。因此,人类如何进行自我约束是人工智能技术进步过程中最为紧迫的道德问题。
2015年10月14日,一个名为“智能平方”的组织在纽约邀请几位国际问题专家进行了一场辩论,题目是:中美是长期敌人吗?芝加哥大学政治学教授米尔斯海默不出所料地讲起了“大国政治的悲剧”。作为反方,陆克文有一句话令人记忆犹新。他说,外交的挑战就是要确保阻止战争的发生,相信我们能够做到这一点。陆克文的逻辑也适用于人工智能。人工智能是一种技术,可以为善,也可以作恶。尽管对善、恶的判断和选择是人类一个古老和难有完全一致看法的哲学命题,但是在关系到人类根本生存这样的大问题上,拥有理性和现代文明的人类应该可以决定向善还是向恶。
2018年6月,笔者应邀参访科大讯飞北京公司,其间讨论到未来是否会出现人工翻译与机器翻译之间的竞争时,公司负责人表示,发展人工智能翻译技术的目的不是取代人,而是助力翻译工作更加准确和轻松。这给笔者以启发。毕竟,就像毛泽东同志所说的“决定战争胜败的是人民,而不是一两件新式武器”。人类开发人工智能技术的目的是服务于人类,是善用还是恶意应用最终取决于掌握技术的人。
当前国际上关于秩序的讨论十分热烈。其中,中美两国学界最为关心的,也为世界其他各国所普遍关注的是:美国与中国是否会展开“NEW COLD WAR”从而导致冷战时的平行秩序再度出现?2018年3月,笔者与来北京参加中国发展高层论坛的美欧人士交谈时,观察到他们对中美关系的前景比较悲观,认为中国的快速增长对美国来说是结构性威胁。当笔者问道:中美两国除了走向对抗,有没有别的选择?英国《金融时报》副主编马丁·沃尔夫回答说,你们没有什么可选择的,中国不会停止增长,美国不会停止担忧(You have no choice,you can’t stop growing and they can’t stop worrying)。除非出现一种情况,例如发生来自火星的入侵,人类面临共同的敌人,届时美中才有可能真正团结起来。
如果用零和博弈和追求绝对安全的眼光看待世界,那毫无疑问,人工智能会像20世纪40、50年代的原子弹、卫星一样,成为大国竞争的新焦点,并成为将世界划分为两种或多种平行秩序的助推动力。但是如果我们采用人类命运共同体的视角,本着共同安全的理念看问题,那么就不难认识到,人工智能技术带来的安全和治理挑战是需要全人类共同面对的问题。如此,我们就不难本着平等协商的精神,共同探讨各利益攸关方都能够接受的规范。那么,人工智能是否会成为那个将中国、美国、俄罗斯以及世界其他国家团结在一起的“火星入侵”式的挑战呢?
技术专家们在大声疾呼。在2018年的乌镇第五届世界互联网大会上举办的“网络空间的中美关系”分论坛上,原美国联邦通信委员会专家戴夫法伯呼吁,应尽早就人工智能制定国际准则,避免重演核武器技术产生时因国际共识和自律的迟到而导致的悲剧及其影响至今的严重后果。
现实情况是,中美两国在科学技术研究领域的交往与合作是相当深入的。根据科睿唯安提供的人工智能领域科技文献数据,从2013年到2017年,全球参与评估的167个国家/地区在WOS学科“计算机、人工智能”发文排名中,中国大陆位居第一,发文量达到59573篇,占25.02%,其次是美国,发文量为32527篇,占13.66%。其中,中美两国国际合作论文数量增长最快,例如,过去5年中国大陆开展国际合作最多的对象是美国,合作论文量是4307篇,同样,美国开展国际合作最多的国家也是中国大陆,远远多于与其他国家的合作论文量。
国际上围绕相关问题的探讨和研究已经在步步深入。例如,联合国裁军委致命性自主武器系统问题政府专家组的讨论就涉及要注意致命性自主武器系统可能对国际安全产生的影响。例如,致命性自主武器系统技术方面的军备竞赛,扩大发达国家与发展中国家之间的技术差距,以及可能降低使用武力的门槛等;就国家对其管辖下的致命性自主武器系统负有法律责任达成非正式普遍谅解;探讨参照《特定常规武器公约》议定书的形式,制定一项具有法律约束力的文件,预防性地禁止致命性自主武器系统。
中国领导人于2018年9月在《致2018世界人工智能大会的贺信》中阐明了中国的立场和态度。他指出,新一代人工智能正在全球范围内蓬勃兴起,为经济社会发展注入了新动能,正在深刻改变人们的生产生活方式。把握好这一发展机遇,处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题,需要各国深化合作、共同探讨。中国愿在人工智能领域与各国共推发展、共护安全、共享成果。
基于清华大学人工智能与安全项目小组的研究结果,我们提出了关于人工智能的六点原则:
一是福祉原则。人工智能的发展应服务于人类共同福祉和利益,其设计与应用须遵循人类社会基本伦理道德,符合人类的尊严和权利。
二是安全原则。人工智能不得伤害人类,要保证人工智能系统的安全性、可适用性与可控性,保护个人隐私,防止数据泄露与滥用。保证人工智能算法的可追溯性与透明性,防止算法歧视。
三是共享原则。人工智能创造的经济繁荣应服务于全体人类。构建合理机制,使更多人受益于人工智能技术的发展、享受便利,避免数字鸿沟的出现。
四是和平原则。人工智能技术须用于和平目的,致力于提升透明度和建立信任措施,倡导和平利用人工智能,防止开展致命性自主武器军备竞赛。
五是法治原则。人工智能技术的运用,应符合《联合国宪章》的宗旨以及各国主权平等、和平解决争端、禁止使用武力、不干涉内政等现代国际法基本原则。
六是合作原则。世界各国应促进人工智能的技术交流和人才交流,在开放的环境下推动和规范技术的提升。这些原则可以作为讨论和制定人工智能国际规则的基础。
虽然这些原则尚显空泛和抽象,如何细化和如何与各国专家深入探讨,寻找最大公约数,还是一个需要花时间去努力争取的目标。值得注意的是,许多从事高端科研的青年专家已经提出为人类的共同利益而主动自律的问题,不少企业界人士表示要在人工智能的技术研究和产品制造中自觉强调道德和道义的因素,不会从事有损人类福祉的研究和制造工作。
笔者希望国际上关于这些问题的探讨能不断深入,也期待中国的智库和科学技术界能在这个方向上为全球的共同努力贡献力量。
【本文原载于《国际政治科学》2019年01期;微信公众号“国关国政外交学人”编辑,观察者网获得授权转载。】
- 原标题:傅莹 | 人工智能对国际关系的影响初析 本文仅代表作者个人观点。
- 责任编辑:徐杨
- 最后更新: 2019-04-12 08:26:51
-
阿桑奇被捕,厄瓜多尔前总统怒骂现总统:史上最大叛徒
2019-04-11 22:17 美国泄密事件 -
首次海外展示新系统,波音选择中国
2019-04-11 20:50 波音危机 -
阿桑奇被捕,斯诺登:新闻自由的黑暗时刻
2019-04-11 20:09 棱镜监听门 -
执政30年,苏丹总统巴希尔已被军方逮捕
2019-04-11 20:01 非洲之窗 -
劫匪持枪入室,小哥徒手迎战:“你抢错人了!”
2019-04-11 19:34 观网看片 -
这个曾被马来西亚叫停的中资项目,复活了
2019-04-11 19:26 一带一路 -
阿桑奇藏身7年终被“拖出”,美国发话
2019-04-11 19:09 美国泄密事件 -
9亿选民、持续39天,莫迪这次能如愿连任吗?
2019-04-11 18:41 印度惊奇 -
美副总统在安理会驱赶委代表,中俄回击
2019-04-11 18:16 中国-拉美 -
躲美国7年,阿桑奇终被“拖出”使馆
2019-04-11 17:48 美国泄密事件 -
一场“史诗级”战斗!
2019-04-11 17:12 观网看片 -
桑德斯自曝出书成百万富翁,被讽“仇富变生意”
2019-04-11 16:58 美国政治 -
“人才都被扔进下水道”,日本女学术新星为何自杀?
2019-04-11 16:40 日本 -
为什么说发达国家对全球气候变化负有不可推卸的历史责任?
2019-04-11 16:14 观网看片 -
CNN感叹:没有殖民历史,中国在非文化机构却紧追法国
2019-04-11 16:09 非洲之窗 -
为了与黑洞“一见”,人们花了多少钱?
2019-04-11 15:53 科技前沿 -
服!外国情侣取名司马当、霍玛伊...
2019-04-11 15:19 趣读 -
波音737又出事,2架意战机升空拦截
2019-04-11 14:46 航空航天 -
大选将至澳两党互相指责“通中” 外交部驳斥
2019-04-11 14:43
相关推荐 -
美方对俄隐瞒了部分信息?克宫回应 评论 30国防部表态:中方不会在南海问题上任菲胡来 评论 161关于ASML出口管制,荷兰首相在华表态 评论 463警惕!“隐秘”的调查暗藏国家安全风险 评论 127最新闻 Hot
-
银河系中心超大质量黑洞,又一张偏振图像来了
-
竟还有这样给他们洗白的:“善良有爱心”、“胆小不敢杀鸡”…
-
“港独分子”作证:他勾结外国反华政客!
-
这个数据,孟买首次超越北京
-
浙大社会学系第3次更新:赵鼎新再度“荣休”
-
美国务院一官员辞职:自焚军人最后的留言让我难以忘怀
-
日本资助的项目被搁置,斯里兰卡:中国承诺帮我们
-
关于ASML出口管制,荷兰首相在华表态
-
耶伦:我要当面“警告”中国,你们东西太便宜,搞得美国企业破产
-
警惕!“隐秘”的调查暗藏国家安全风险
-
普京反问:我们跨越大洋跑到美国边境了吗?
-
“美国暴露了”
-
“为何总觉得你们的生活方式比我们好?甚至连提问方式都…”
-
中企被迫退出竞标,“欧盟借这招威慑外企”
-
他威胁“不停火就断交”,以色列怒了
-
美媒“拆台”:哪有火车?你咋坐的?
-