-
艺术画作、AI变脸……如何统筹AIGC发展与安全?这场论坛现场网络安全大咖热议
最后更新: 2023-09-12 16:26:57东方网记者薛宁薇9月11日报道:手机导航语音、模型建构、艺术画作……随着ChatGPT的出现,能够生成文本、图像、视频、音频等多种形式的人工智能生成内容技术(Artificial Intelligence Generated Content,以下称“AIGC”),越来越多被应用于生活各领域。
与此同时,不法分子也盯上了AIGC的“蛋糕”,相关“AI变脸”“AI拟声”诈骗案件时有发生。出于对AIGC大模型的风险考虑,马斯克等互联网大咖也曾要求暂停人工智能大模型的训练。
在今天举行的2023年国家网络安全宣传周上海地区高峰论坛活动现场,多位网络安全的业内大咖就分享对AIGC的发展和安全治理话题发表各自见解。
“大模型暂停训练半年的呼吁是理想化的,唯有我们进一步地以科技自强,来保护人民群众的生命财产安全。”在上海交通大学人工智能研究院院长宋海涛看来,人工智能和AIGC的产生,加速了人们对于信息的有效压缩能力以及对知识的表达能力,面临如此重大的科技涌现甚至对网络的外延,要在进一步拥抱科技力量和技术的同时,加强网络安全方面伦理和治理体系的研究。“新业态、新技术到任何一次工业革命最终要遵循伦理和社会治理的规则,我们可以在下一阶段网络安全过程中如何探讨伦理和治理体系的建设。”宋海涛说。
“3-5年后网络上的东西可能都是AIGC生成的,它可以文生万物,比如网上看论文都不知道是不是AIGC写的,这会牵涉到网络安全问题、生态安全问题、数据安全问题。”上海市信息安全测评认证中心创新研究院副院长徐卿表示,对于这个问题,国家层面对数据安全制度供给在加大,包括《数安法》《个保法》等。对此,上海也推动了许多以数据安全为中心的思路去构架城市数据安全体系的试点工作。“目前还是一个起步阶段,还是有大量工作要去做,方向肯定是正确的。”徐卿说。
作为一名法律工作者,公安部第三研究所网络安全法律研究中心主任、研究员黄道丽从事网络安全政策法律研究近二十年,深耕数据安全、个人信息保护、网络安全漏洞治理、关键信息基础设施保护等领域。她认为,AIGC在应用中的风险是否会突破传统所认识的数据安全、个人信息保护,这当中存在一个巨大的张力。相关立法时需要让所有参与人员都能看到一个稳定的预期,对行为有一个准确的判断。
在中国信息通信研究院华东分院院长廖运发看来,从技术上,要加快人工智能技术进一步地研发。从产业维度上,需要加快可信人工智能的落地,形成共识。从生态维度,要加快标准的研究、制定,以及从监管的维度如何推动底线政策的监管。“总体来看,这些监管都不是抑制AIGC大模型的产业发展,而是要统筹发展与安全。”廖运发认为,要构建一个AIGC大模型的数字安全空间,涵盖网络安全以及数据安全、基础设施安全、应用安全,这对于整个AIGC大模型发展是至关重要的。
- 原标题:艺术画作、AI变脸……如何统筹AIGC发展与安全?这场论坛现场网络安全大咖热议
- 责任编辑: 张仲杰 
-
搁浅的老小区“自拆自建”:业主同意率卡在99.99%
2023-09-12 15:23 中国房市 -
首艘国产大型邮轮完成第二次试航,已基本具备运营条件
2023-09-12 13:19 中国精造 -
吴海龙:中国不是20多年前的中国,也不是现在的俄罗斯
2023-09-12 12:33 中美关系 -
中央社会工作部部分内设机构亮相
2023-09-12 12:22 大部制改革 -
民政部:鼓励社会公众和媒体对慈善进行监督
2023-09-12 11:52 慈善 -
上市公司称遭严重违约,要求一地政府返还4.8亿并赔偿3.4亿
2023-09-12 11:32 -
梅德韦杰夫:这是向俄公民脸上吐口水,应暂停与欧盟的外交关系
2023-09-12 11:21 俄罗斯之声 -
天舟五号货运飞船已受控再入大气层
2023-09-12 10:07 航空航天 -
教育部颁布《校外培训行政处罚暂行办法》
2023-09-12 10:04 中西教育 -
聚众霸凌,多次辗轧倒地少年?南宁警方回应
2023-09-12 09:44 -
C919订单已达1061架
2023-09-12 09:04 中国大飞机 -
市场监管总局召开个体工商户座谈会
2023-09-12 08:45 观察者头条 -
保安被业主打死?江西赣州警方辟谣
2023-09-12 08:40 -
7人被查,3人被处分
2023-09-12 08:28 廉政风暴 -
父亲将猥亵女儿的学院副院长打伤,检察院:不起诉
2023-09-12 08:05 依法治国 -
我国首套海洋漂浮式温差能发电装置完成海试
2023-09-12 07:55 能源战略 -
广西玉林发生多起山体滑坡,已致7人遇难
2023-09-12 06:45 极端天气 -
广西玉林三地发生山体滑坡致8人失联
2023-09-11 22:45 极端天气 -
山西两司法所所长偷情被举报?多部门回应
2023-09-11 22:07 -
李鸿忠:依法加强政府债务监督 推动经济社会高质量发展
2023-09-11 21:32
相关推荐 -
伊朗总统乘坐的直升机硬着陆,目前搜救中 评论 68沙利文见沙特王储,讨论美沙安全协议“半定稿” 评论 73美国享受中国廉价商品的时代要终结了? 评论 237内塔尼亚胡遭以战时内阁成员下“最后通牒” 评论 89“至少一代人不会把西欧视为合作伙伴” 评论 151最新闻 Hot
-
美国享受中国廉价商品的时代要终结了?
-
美方坐不住:中方维护硅谷巨头的海底电缆,不放心啊
-
内塔尼亚胡遭以战时内阁成员下“最后通牒”
-
“至少一代人不会把西欧视为合作伙伴”
-
换一种方式,让国宝“回家”
-
对抗中国?菲律宾加购5艘日本大型巡逻船
-
“我讨厌‘一带一路’,因为这绝妙的构想不是我们提出的”
-
斯洛伐克总理菲佐遭枪击后,他收到死亡威胁
-
12月6日前裁决,TikTok和美司法部要求法院启动快速通道
-
矛头直指哈尔科夫,普京首次公开俄军意图
-
“我们不承认台湾,今后也不会”
-
加拿大果然想跟,声称“不能给中国留后门…”
-
“美国居然在锯自己骑着的那根树枝,蠢得可怕”
-
法国邀请俄罗斯,英美不满
-
又在搞事,马科斯称菲律宾将“强力捍卫领土”
-
泽连斯基承认:我们很多旅都打光了...
-