-
傅莹:人工智能与国际安全治理
导读2020年12月18日,清华大学人工智能国际治理研究院名誉院长傅莹在当天举办的首届清华大学人工智能合作与治理国际论坛上发表讲话。
她呼吁在人工智能领域建设包容性强的国际治理委员会,共同去研究、探讨、吸纳各方面好的建议和意见,形成共同的国际规范。以下为讲话全文。
傅莹:
尊敬的主持人,各位嘉宾,大家好!感谢主持人的介绍,上午大家谈到宏观的看法和主张。 我特别想呼应一下许多人谈到的,尤其是联合国副秘书长法布里齐奥·霍奇尔德、外交部国际经济司司长王小龙和科技部战略规划司司长许倞他们谈到的,关于构建人工智能国际治理体系和机制的重要性和必要性。希望能在人工智能领域建立包容性很强的国际治理委员会通过共同探讨、研究、吸纳好的意见和建议,形成共同的国际规范,这是非常必要且紧迫的。
下面我主要从最近中美学者“人工智能与国际安全治理”合作项目的角度,谈谈这个问题。论坛开始之前发布了我和美方项目牵头人John Allen介绍研究成果的文章,今晚9点在关于《人工智能与国际安全:挑战与机遇》的第三个分论坛上,中方团队的李彬老师会作更详细的介绍,欢迎大家去听。
中国在人工智能治理问题上向国际社会释放了清晰的合作信号。今年11月,习近平主席在G20峰会上强调,中方支持围绕人工智能加强对话,倡议适时召开专题会议,推动落实G20人工智能原则,引领全球人工智能的健康发展。我理解,今天这个论坛也是依据这个精神召开的。
今年9月,中国国务委员兼外长王毅提出《全球数据安全倡议》,表示希望国际社会在普遍参与的基础上就人工智能的安全问题达成国际协议,支持通过双边或多边协议的形式确认倡议中的承诺。他提出有效应对数据安全风险应遵循的三项原则,包括秉持多边主义、兼顾安全发展和坚守公平正义。
确实,技术革命往往伴随不可预知的安全挑战,在这方面,国际关注的焦点之一是智能武器的道德和技术风险。清华大学战略与安全研究中心与多家国际机构围绕这个问题开展了研讨,包括与美国布鲁金斯学会的专家学者进行的三轮系列研讨,结合国际军控经验,寻找管控智能武器风险和国际安全治理的路径。
专家们梳理了智能武器可能带来的风险。一是由于人工智能技术不完善,智能武器可能导致更大的连带伤害。二是智能武器的训练需要大量数据,数据的污染和形成的偏见可能导致严重后果。三是人机协同的挑战,机器在可解释性、学习性、常识性等方面的不足有可能放大发生冲突的风险,等等。
那么,既然人工智能武器化不可避免,专家们研究的方向是寻找合适的治理路径。大家都认为,人类必须汲取历史教训,例如对核武器的治理共识就发生的太晚,导致人类曾经面临巨大威胁,互联网的治理也没有能够在早期实现。大家希望这次对人工智能,尤其是智能武器的治理,人类能走在技术变革的前面,充分认识其风险,早些达成治理共识。
大家提出,需要采取军事克制态度,限制智能武器的损害范围,这一点也需要反映在公共教育当中。在路径方面,最重要的是如何使智能武器的发展和使用与现行国际法基本原则保持一致,包括《联合国宪章》和武装冲突法里面的相关原则,都是讨论的重要依据。有中方学者主张建构关于人工智能军事行动的国际规范,切实保证人在智能武器使用中的决定性作用等等。
诚然,这都是学术层面的探讨,参加项目的专家们都撰写了专题论文,可以提供给决策部门参考,这些路径是否可行,还需要经过大量的政策研究和论证。
这两年中美关系出现紧张状况,但是这个项目的研讨并没有受到大的影响,充分显示了两国学界的专业精神和对人类共同命运的责任感和使命感。专家们认识到,现阶段是构建人工智能国际安全规范的关键窗口期,希望两国抓住这一难得的历史性时机,制定人工智能通用规范。
中国对人工智能的发展、应用乃至治理都是高度重视的。2017-2018年间,中央政治局分别围绕大数据和人工智能进行了两次集体学习,习近平总书记指出:“要加强人工智能发展的潜在风险研判和防范”,要“确保人工智能安全、可靠、可控。”
中国在治理和立法方面也迈出实际步伐。例如,2018年中国国家标准化委员会发布《人工智能标准化白皮书》;2019年国家新一代人工智能治理委员会发布了8条治理原则;2019年国务院颁布了《儿童个人信息网络保护规定》,加强对未成年人的信息保护;2020年经全国人大通过颁布的《民法典》中对保护个人隐私做出明确规定,要求不得泄露、出售或非法向他人提供个人信息等。
总之,目前中美两国是人工智能技术研究和应用发展最快的国家,两国需要也有条件加强协调与合作。近年其他许多国家学界也表现出对人工智能应用的安全担忧,说明这是人类共同的难题,不是一国两国能够解决的。中美开展对话与合作至关重要,将能够为全球合作贡献智慧。我希望和相信这不是一场“零和游戏”,人工智能最终应使得全人类受益。
- 原标题:傅莹:人工智能与国际安全治理 本文仅代表作者个人观点。
- 责任编辑: 朱敏洁 
-
准噶尔盆地发现千亿方大气藏
2020-12-19 08:48 能源战略 -
国家卫健委:新增本土3例、境外输入14例
2020-12-19 08:48 新冠肺炎抗疫战 -
国家社科基金冷门绝学立项名单公布,66个入选
2020-12-19 08:45 -
香港官员当选国际民航组织亚太地区区域航空安全小组主席
2020-12-19 08:29 航空安全 -
心里更有底了!中央经济工作会议传递这些鲜明信息
2020-12-19 08:22 新时代新气象新作为 -
北京新增2例境外输入关联病例:均为庆丰包子铺员工
2020-12-19 08:07 新冠肺炎抗疫战 -
国办完善失信约束制度:不得随意增设惩戒措施或加重惩戒
2020-12-19 08:01 -
中央定调2021年中国经济,有这5大新提法
2020-12-19 07:18 中国经济 -
-
首届清华大学人工智能合作与治理国际论坛开幕
2020-12-18 22:43 人工智能 -
蛋壳租客结清租金贷流程公布
2020-12-18 21:20 中国房市 -
-
中央经济工作会议在北京举行 习近平李克强作重要讲话 栗战书汪洋王沪宁赵乐际韩正出席会议
2020-12-18 20:47 -
北京新增1例境外输入关联病例
2020-12-18 19:59 新冠肺炎抗疫战 -
海南:暂停电子税务局PC端第三方扫码支付服务功能
2020-12-18 19:27 -
中央军委举行晋升上将军衔警衔仪式 习近平颁发命令状并向晋衔的军官警官表示祝贺
2020-12-18 19:17 -
中央经济工作会议在北京举行
2020-12-18 19:00 -
中央经济工作会议:强化反垄断和防止资本无序扩张
2020-12-18 18:42 新时代之声 -
4位军官警官晋升上将 习近平颁发命令状并表示祝贺
2020-12-18 18:34 习主席带领我们强军 -
中国高技能人才5000万,比例与发达国家有很大差距
2020-12-18 18:27
相关推荐 -
“美国震惊欧洲,中国展开魅力攻势” 评论 113“被美国狠狠上了一课!但这座桥毁了,新桥正建起” 评论 160“特朗普打了个响指,然后,乱成一锅粥…” 评论 93李在明:疏远中国,代价承受不起 评论 89“在此之前,欧洲人可能还心存一丝幻想” 评论 379最新闻 Hot
-
“被美国狠狠上了一课!但这座桥毁了,新桥正建起”
-
单日裁万人前所未有,“我被自己的国家背叛了”
-
“特朗普打了个响指,然后,乱成一锅粥…”
-
“冷静!我们不能跟被车灯吓坏的鹿似的”
-
“在此之前,欧洲人可能还心存一丝幻想”
-
美防长警告欧洲:别指望美军一直在
-
万斯见她,朔尔茨被晾,“他日子不长了”
-
“罕见!中国在联合国想主导这个议题,美国跳起来了”
-
白宫:无限期禁止
-
“泽连斯基拒绝特朗普”
-
“中国科技飞跃,未来已来!”
-
特朗普回应万斯演讲:非常精彩,欧洲必须小心
-
万斯猛烈抨击欧洲,全场目瞪口呆
-
再次直呼“加拿大州长”:中国船有很多,你们需要保护
-
中国制裁打疼美企,“期待解除‘黑名单’”
-
大S告别聚会:亲友们喝香槟、吃水果、弹琴唱歌
-