-
可能对人类构成深远风险?马斯克等千人呼吁暂停训练高级AI
-
周毅是故意的还是不小心?
最后更新: 2024-05-08 19:37:51【文/观察者网 周毅 编辑 吕栋】
马斯克等1000名科技人士,日前签署了一封特殊的公开信。
据未来生命研究所(Future of Life Institute)网站披露,该网站曾以公开信的方式发起倡议,呼吁所有AI(人工智能)实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。截至北京时间3月29日下午13时许,在该网站上,这封公开信获得了包括马斯克在内的1126名人士的联名签署。
综合目前的公开资料来看,这项倡议的宗旨在于为人类留出时间,思考AI开发的合规性和安全性,并助力人类展开相关的工作。对于此,GPT-4认为,“6个月的时间可能对于实现这一目的具有一定的挑战性。”
未来生命研究所网站截图
公开信认为,高级AI可能代表地球生命史上的深刻变化,人类应以相应的关怀和资源进行规划和管理——但不幸的是,对应级别的规划和管理并没有发生。此外,最近几个月AI实验室们陷入了一场失控的竞赛(an out-of-control race),但包括这些AI系统的创造者们,都无法完全去理解、预测或者可靠地控制(reliably control)它们。
公开信写道,广泛的研究表明,具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险,这一观点得到了顶级人工智能实验室的承认。
公开信表示,人们只应在这样的背景下去开发强大的人工系统:确信它们的影响是积极的,确信它们的风险是可控的。信件还援引了OpenAI(ChatGPT的开发者)在其最新声明中的表态,“在某个时候,在开始训练未来的AI系统之前,对它进行独立审查可能很重要。”
“现在就是那个时候。”公开信认为。
公开信呼吁,所有AI实验室立即暂停至少6个月的训练工作——对象是那些比GPT-4更强大的AI系统。公开信称,这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这样的暂停,政府应该介入并暂停。
“这并不意味着总体上暂停AI开发,”公开信表示,AI实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级AI设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。此外,公开信还呼吁,AI开发人员必须与政策制定者合作,以显着加快开发强大的AI治理系统。
未来生命研究所网站显示,该组织成立于2014年,它的目标是“引导变革性技术造福于生活,远离极端大规模的风险。”网站信息显示,其注册地址在美国宾夕法尼亚州蒙哥马利县。经查证,在2020年6月联合国发布的《数字合作路线图》中,该机构是该活动在AI领域的民间倡议者(Champions)之一。
网站最新页面显示,在该公开信的联合签名栏,有众多大学学者、工程师和企业创始人和高管在列。例如“图灵奖”获得者约书亚·本希奥、特斯拉CEO马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等。这份名单中也包括一些编辑、教师和学生的名字。
未来生命研究所网站截图
对于此事,“GPT-4怎么看”?
ChatGPT在回答提问时表示,其原因为确保AI研究在安全和伦理方面的合规性,防止技术滥用,为制定有效规范和监管措施留出时间。对于这一行动的影响,GPT-4称,这将提高AI领域的安全意识,推动政策制定和监管措施的完善,促使AI技术更加负责任地发展。
当被问道,“在你看来,6个月的时间是否足以让人们实现这一目的?”GPT-4认为,虽然这段时间可以让政策制定者、研究人员和社会讨论开始关注AI安全和伦理问题,但要完全解决这些问题并制定全面的规范和监管措施可能需要更长时间。然而,6个月的暂停确实可以作为一个良好的起点,引发关注并推动相关方面加快行动。
“6个月的时间可能对于实现这一目的具有一定的挑战性。”
OpenAI网站截图
本文系观察者网独家稿件,未经授权,不得转载。
标签 ChatGPT- 责任编辑: 周毅 
-
王炸芯片,难再成苹果救星
2024-05-08 18:18 观网财经-科创 -
ST阳光:控股股东涉嫌内幕交易被证监会拟罚款2.32亿元
2024-05-07 20:57 -
华为苹果同日对决,背后还有中韩面板之争
2024-05-07 17:23 观网财经-科创 -
历史性一幕!iPhone在华市场份额跌出前五
2024-05-07 11:13 观网财经-科创 -
45亿加码“五五购物节”,拼多多助力上海“拼”出精彩
2024-05-06 19:32 -
美国Tiktok法案的起草人,引火烧身了
2024-05-06 18:47 观网财经-金融 -
舒适赛道红利释放,红豆股份品牌转型出成效
2024-05-06 13:33 -
“五一”近3亿人次出游,较2019年同期增长28.2%
2024-05-06 12:16 观察者头条 -
巴菲特股东大会要点来了!回应减持苹果、巨额现金储备等
2024-05-05 08:28 -
武广高铁、沪杭客专等4条高铁线涨价,涨幅近20%
2024-05-04 14:13 高铁世纪 -
深圳将取消福田、南山之外区域住房限购?深圳住建局回应
2024-05-04 10:27 观网财经-房产 -
20张营业执照只有3家实存?央媒:问题在下头,根子在上头
2024-05-03 11:21 基层治理 -
上海推出商品住房“以旧换新”活动
2024-05-03 09:39 观网财经-房产 -
中俄东线天然气管道最新进展
2024-05-03 09:30 国企备忘录 -
31省份“一季报”:苏鲁浙增速超6%,山西总量下滑
2024-05-02 21:39 宏观经济 -
美联储维持利率不变,纳指两连跌星巴克重挫
2024-05-02 07:42 观网财经-海外 -
南京公积金新政:包括宣城、马鞍山在内的南京都市圈9城互认互贷
2024-05-01 19:50 观网财经-房产 -
美国当前经济数据中,也许藏着高官接连访华的答案
2024-05-01 09:24 -
余承东不再担任华为终端BG CEO
2024-05-01 08:53 观网财经-科创
相关推荐 -
-
“类人速度”新模型来了,AI进入《她》时代? 评论 191空有雄心?电力需求激增,美国“已忘记如何应对” 评论 170华春莹“翻译”耶伦涉华言论,一针见血 评论 231视频公布!中国海警位黄岩岛海域开展常态化训练 评论 208最新闻 Hot
-
绍伊古转岗出人意料,普京“把战时经济精英都用上了”
-
美国强迫中资企业卖房,原因是离这儿“太近”…
-
已砸810亿美元!美欧日等疯狂补贴,“与中国决战”
-
俄国防部人事总局局长被捕,曾领导俄保密部门长达13年
-
这个俄罗斯邻国正“严肃”探讨向乌克兰西部派兵
-
“类人速度”新模型来了,AI进入《她》时代?
-
绍伊古还有“新工作”
-
“中国或作出重大回应”
-
“除我以外,还有其他人在她办公室走廊排长队等着行贿”
-
尴尬!美警方高官欲控制示威者,却喷自己一脸…
-
“日本婴儿一出生就该享有投票权,因为...”
-
空有雄心?电力需求激增,美国“已忘记如何应对”
-
关于上任后工作,他提到这几点
-
华春莹“翻译”耶伦涉华言论,一针见血
-
对美企妥协?“这次对华加征关税不带光伏设备”
-
“跟西方做朋友,不代表中印俄就不能是朋友”
-