-
艺术画作、AI变脸……如何统筹AIGC发展与安全?这场论坛现场网络安全大咖热议
最后更新: 2023-09-12 16:26:57东方网记者薛宁薇9月11日报道:手机导航语音、模型建构、艺术画作……随着ChatGPT的出现,能够生成文本、图像、视频、音频等多种形式的人工智能生成内容技术(Artificial Intelligence Generated Content,以下称“AIGC”),越来越多被应用于生活各领域。
与此同时,不法分子也盯上了AIGC的“蛋糕”,相关“AI变脸”“AI拟声”诈骗案件时有发生。出于对AIGC大模型的风险考虑,马斯克等互联网大咖也曾要求暂停人工智能大模型的训练。
在今天举行的2023年国家网络安全宣传周上海地区高峰论坛活动现场,多位网络安全的业内大咖就分享对AIGC的发展和安全治理话题发表各自见解。
“大模型暂停训练半年的呼吁是理想化的,唯有我们进一步地以科技自强,来保护人民群众的生命财产安全。”在上海交通大学人工智能研究院院长宋海涛看来,人工智能和AIGC的产生,加速了人们对于信息的有效压缩能力以及对知识的表达能力,面临如此重大的科技涌现甚至对网络的外延,要在进一步拥抱科技力量和技术的同时,加强网络安全方面伦理和治理体系的研究。“新业态、新技术到任何一次工业革命最终要遵循伦理和社会治理的规则,我们可以在下一阶段网络安全过程中如何探讨伦理和治理体系的建设。”宋海涛说。
“3-5年后网络上的东西可能都是AIGC生成的,它可以文生万物,比如网上看论文都不知道是不是AIGC写的,这会牵涉到网络安全问题、生态安全问题、数据安全问题。”上海市信息安全测评认证中心创新研究院副院长徐卿表示,对于这个问题,国家层面对数据安全制度供给在加大,包括《数安法》《个保法》等。对此,上海也推动了许多以数据安全为中心的思路去构架城市数据安全体系的试点工作。“目前还是一个起步阶段,还是有大量工作要去做,方向肯定是正确的。”徐卿说。
作为一名法律工作者,公安部第三研究所网络安全法律研究中心主任、研究员黄道丽从事网络安全政策法律研究近二十年,深耕数据安全、个人信息保护、网络安全漏洞治理、关键信息基础设施保护等领域。她认为,AIGC在应用中的风险是否会突破传统所认识的数据安全、个人信息保护,这当中存在一个巨大的张力。相关立法时需要让所有参与人员都能看到一个稳定的预期,对行为有一个准确的判断。
在中国信息通信研究院华东分院院长廖运发看来,从技术上,要加快人工智能技术进一步地研发。从产业维度上,需要加快可信人工智能的落地,形成共识。从生态维度,要加快标准的研究、制定,以及从监管的维度如何推动底线政策的监管。“总体来看,这些监管都不是抑制AIGC大模型的产业发展,而是要统筹发展与安全。”廖运发认为,要构建一个AIGC大模型的数字安全空间,涵盖网络安全以及数据安全、基础设施安全、应用安全,这对于整个AIGC大模型发展是至关重要的。
- 原标题:艺术画作、AI变脸……如何统筹AIGC发展与安全?这场论坛现场网络安全大咖热议
- 责任编辑: 张仲杰 
-
搁浅的老小区“自拆自建”:业主同意率卡在99.99%
2023-09-12 15:23 中国房市 -
首艘国产大型邮轮完成第二次试航,已基本具备运营条件
2023-09-12 13:19 中国精造 -
吴海龙:中国不是20多年前的中国,也不是现在的俄罗斯
2023-09-12 12:33 中美关系 -
中央社会工作部部分内设机构亮相
2023-09-12 12:22 大部制改革 -
民政部:鼓励社会公众和媒体对慈善进行监督
2023-09-12 11:52 慈善 -
上市公司称遭严重违约,要求一地政府返还4.8亿并赔偿3.4亿
2023-09-12 11:32 -
梅德韦杰夫:这是向俄公民脸上吐口水,应暂停与欧盟的外交关系
2023-09-12 11:21 俄罗斯之声 -
天舟五号货运飞船已受控再入大气层
2023-09-12 10:07 航空航天 -
教育部颁布《校外培训行政处罚暂行办法》
2023-09-12 10:04 中西教育 -
聚众霸凌,多次辗轧倒地少年?南宁警方回应
2023-09-12 09:44 -
C919订单已达1061架
2023-09-12 09:04 中国大飞机 -
市场监管总局召开个体工商户座谈会
2023-09-12 08:45 观察者头条 -
保安被业主打死?江西赣州警方辟谣
2023-09-12 08:40 -
7人被查,3人被处分
2023-09-12 08:28 廉政风暴 -
父亲将猥亵女儿的学院副院长打伤,检察院:不起诉
2023-09-12 08:05 依法治国 -
我国首套海洋漂浮式温差能发电装置完成海试
2023-09-12 07:55 能源战略 -
广西玉林发生多起山体滑坡,已致7人遇难
2023-09-12 06:45 极端天气 -
广西玉林三地发生山体滑坡致8人失联
2023-09-11 22:45 极端天气 -
山西两司法所所长偷情被举报?多部门回应
2023-09-11 22:07 -
李鸿忠:依法加强政府债务监督 推动经济社会高质量发展
2023-09-11 21:32
相关推荐 -
欧盟高官:中国提供投资更灵活,我们很难比 评论 47“投票显示,美以遭前所未有孤立” 评论 17430万平民撤离,“美国为阻止进攻向以提供机密情报” 评论 100“以军说那里是安全的,他们照做了,结果呢?” 评论 135最新闻 Hot
-
“以军说那里是安全的,他们照做了,结果呢?”
-
“照你说的,我们是输给中国了吧?”,她被问住了
-
“西班牙、爱尔兰等国本月承认巴勒斯坦,后续还有更多”
-
联大通过涉巴勒斯坦“入联”决议
-
“电动汽车关税将升至100%,还要对医疗器械下手”
-
美国认了,又没认…
-
“美国想玩权游,中国会反击”
-
最后一天,印度从马尔代夫全部撤军
-
美欲对中国联网车下手,韩国又紧张了
-
为对付中国,他称美国得向印度取经
-
他向美媒“告洋状”,想蹭乌克兰却忘了……
-
乌克兰称俄军可能在北部开辟新战线
-
拜登都承认了,“布林肯报告仍将嘴硬”
-
“韩国得自卫,不然美军赢不了中国”
-
“对于联大第2758号决议,美国只有严格遵守的义务”
-
上万人抗议以色列,她也现身了
-