观察员
-
艺术画作、AI变脸……如何统筹AIGC发展与安全？这场论坛现场网络安全大咖热议
最后更新: 2023-09-12 16:26:57东方网记者薛宁薇9月11日报道：手机导航语音、模型建构、艺术画作……随着ChatGPT的出现，能够生成文本、图像、视频、音频等多种形式的人工智能生成内容技术（Artificial Intelligence Generated Content，以下称“AIGC”），越来越多被应用于生活各领域。
与此同时，不法分子也盯上了AIGC的“蛋糕”，相关“AI变脸”“AI拟声”诈骗案件时有发生。出于对AIGC大模型的风险考虑，马斯克等互联网大咖也曾要求暂停人工智能大模型的训练。
在今天举行的2023年国家网络安全宣传周上海地区高峰论坛活动现场，多位网络安全的业内大咖就分享对AIGC的发展和安全治理话题发表各自见解。
“大模型暂停训练半年的呼吁是理想化的，唯有我们进一步地以科技自强，来保护人民群众的生命财产安全。”在上海交通大学人工智能研究院院长宋海涛看来，人工智能和AIGC的产生，加速了人们对于信息的有效压缩能力以及对知识的表达能力，面临如此重大的科技涌现甚至对网络的外延，要在进一步拥抱科技力量和技术的同时，加强网络安全方面伦理和治理体系的研究。“新业态、新技术到任何一次工业革命最终要遵循伦理和社会治理的规则，我们可以在下一阶段网络安全过程中如何探讨伦理和治理体系的建设。”宋海涛说。
“3-5年后网络上的东西可能都是AIGC生成的，它可以文生万物，比如网上看论文都不知道是不是AIGC写的，这会牵涉到网络安全问题、生态安全问题、数据安全问题。”上海市信息安全测评认证中心创新研究院副院长徐卿表示，对于这个问题，国家层面对数据安全制度供给在加大，包括《数安法》《个保法》等。对此，上海也推动了许多以数据安全为中心的思路去构架城市数据安全体系的试点工作。“目前还是一个起步阶段，还是有大量工作要去做，方向肯定是正确的。”徐卿说。
作为一名法律工作者，公安部第三研究所网络安全法律研究中心主任、研究员黄道丽从事网络安全政策法律研究近二十年，深耕数据安全、个人信息保护、网络安全漏洞治理、关键信息基础设施保护等领域。她认为，AIGC在应用中的风险是否会突破传统所认识的数据安全、个人信息保护，这当中存在一个巨大的张力。相关立法时需要让所有参与人员都能看到一个稳定的预期，对行为有一个准确的判断。
在中国信息通信研究院华东分院院长廖运发看来，从技术上，要加快人工智能技术进一步地研发。从产业维度上，需要加快可信人工智能的落地，形成共识。从生态维度，要加快标准的研究、制定，以及从监管的维度如何推动底线政策的监管。“总体来看，这些监管都不是抑制AIGC大模型的产业发展，而是要统筹发展与安全。”廖运发认为，要构建一个AIGC大模型的数字安全空间，涵盖网络安全以及数据安全、基础设施安全、应用安全，这对于整个AIGC大模型发展是至关重要的。
- 原标题：艺术画作、AI变脸……如何统筹AIGC发展与安全？这场论坛现场网络安全大咖热议
- 责任编辑: 张仲杰
-
搁浅的老小区“自拆自建”：业主同意率卡在99.99%
2023-09-12 15:23 中国房市 -
首艘国产大型邮轮完成第二次试航，已基本具备运营条件
2023-09-12 13:19 中国精造 -
吴海龙：中国不是20多年前的中国，也不是现在的俄罗斯
2023-09-12 12:33 中美关系 -
中央社会工作部部分内设机构亮相
2023-09-12 12:22 大部制改革 -
民政部：鼓励社会公众和媒体对慈善进行监督
2023-09-12 11:52 慈善 -
上市公司称遭严重违约，要求一地政府返还4.8亿并赔偿3.4亿
2023-09-12 11:32 -
梅德韦杰夫：这是向俄公民脸上吐口水，应暂停与欧盟的外交关系
2023-09-12 11:21 俄罗斯之声 -
天舟五号货运飞船已受控再入大气层
2023-09-12 10:07 航空航天 -
教育部颁布《校外培训行政处罚暂行办法》
2023-09-12 10:04 中西教育 -
聚众霸凌，多次辗轧倒地少年？南宁警方回应
2023-09-12 09:44 -
C919订单已达1061架
2023-09-12 09:04 中国大飞机 -
市场监管总局召开个体工商户座谈会
2023-09-12 08:45 观察者头条 -
保安被业主打死？江西赣州警方辟谣
2023-09-12 08:40 -
7人被查，3人被处分
2023-09-12 08:28 廉政风暴 -
父亲将猥亵女儿的学院副院长打伤，检察院：不起诉
2023-09-12 08:05 依法治国 -
我国首套海洋漂浮式温差能发电装置完成海试
2023-09-12 07:55 能源战略 -
广西玉林发生多起山体滑坡，已致7人遇难
2023-09-12 06:45 极端天气 -
广西玉林三地发生山体滑坡致8人失联
2023-09-11 22:45 极端天气 -
山西两司法所所长偷情被举报？多部门回应
2023-09-11 22:07 -
李鸿忠：依法加强政府债务监督 推动经济社会高质量发展
2023-09-11 21:32
相关推荐 -
-
最新闻 Hot
-
美媒大肆炒作，美企CEO无语：是我们求中企救命啊…
-
“我要回圣彼得堡了，和阿萨德做邻居，当标题去吧！”
-
肠子悔青，“太多鸡蛋装美国篮子里了，指望中印…”
-
全是克林顿，没有特朗普？美司法部急辩…
-
中企修个跑道，美国吓成这样...
-
“成都女子家门口遇害案”，宣判！
-
美方最新表态：不会强迫乌克兰
-
“台湾有事，我们印度不会学西方啦”，不过嘛…
-
特朗普自吹：多亏了我，不然被中国毁了
-
如何创作更高质量的游戏作品？中国游戏人这样说
-
河南公示：拟申报以中原工学院为基础设立河南电子科技大学
-
普京承认正在恋爱中
-
市委书记现场发问：你都不懂你怎么去管人家？
-
数十万页！克林顿成重点，几乎没提特朗普
-
呵呵，鲁比奥：我对中国一直很友好哦
-
荷兰不给晶圆，闻泰有新招
-
Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001
网登网视备（沪）02020000041-1号 互联网宗教信息服务许可证：沪（2024）0000009
广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571
沪公网安备 31010502000027号
中国互联网举报中心
上海市互联网违法与不良信息举报中心
