-
华为战略研究院院长周红:AI能力快速提升,但还面临三个重要挑战
最后更新: 2023-04-19 23:41:25通信网络是建设智能世界的基础,我们要实现成百上千倍的提升,就必须敢于打破既有理论与技术瓶颈的条条框框,才能大踏步前行。
其次是计算。在过去的几年中,我们看到智能应用的迅速发展,尤其是通过AI模型优化可能帮助解决应用碎片化的问题,这也引发了模型规模的爆发式增长。过去十年,AI算法的算力需求提升了四十万倍。
麻省理工的Max Tegmark教授在《生命3.0》书中,给出了一个AI能力地图。目前在山脚处很多能力上,AI已经超越人类,比如死记硬背、智力问答和下棋,大家知道,1997年AI打败了国际象棋世界冠军卡斯帕罗夫,2011年AI获得了《危险边缘》智力节目冠军,2016年AI打败了前围棋世界冠军李世石。在山腰上的一些能力上,人们还在不断研究提升中,例如自动驾驶、图像识别、语言文字处理等,当前AI在语言文字的学习、理解和生成上表现出来的能力,超出了很多人的想象。在接近山顶的能力上,例如软件编程、科学研究、定理自动验证和自动证明等,学术界和产业界已经有一些探索。,随着计算模式的不断优化、算力的不断提升、有了更多和更准确的数据,AI将能更好地服务于人类社会的进步。
在AI能力快速提升的情况下,我认为需要考虑AI的目标如何与人类一致、并且正确和高效地执行。除了通过规则和法律来加强AI的伦理和治理外,从理论和技术的角度看,要达到这些要求,目前还面临三个重要的挑战:AI的目标定义、正确性与适应性、以及效率。
图源:观察者网
AI面临的第一个挑战,是缺乏共识的目标定义。杜克大学的物理学家Adrian Bejan教授在《生命的物理学》书中,列出了对智能的二十多种目标定义,有的强调理解和认知能力、有的强调学习和思考能力、有的强调适应和行动能力等等。
如果没有定义清楚并达成共识,就很难确保AI发展的目标与人类一致,也很难合理地分类和科学地计算。人工智能在历史上有不同的流派,例如符号主义、贝叶斯主义、进化主义、行为主义,以及连接主义等,它们还没有很好地融合起来,我认为缺乏共识的目标定义是重要的原因之一。
其次,在当前的很多AI应用中,存在正确性和适应性的挑战。
依靠大数据统计规律进行的学习,会依赖于采样的覆盖面和数据的正确性,如果错误使用,就可能导致结果不稳定和偏见的风险,出现“黑天鹅”事件。
比如用统计和相关计算模式来识别香蕉,如果我们在香蕉边上放一些其他图片,识别结果可能从香蕉变成烤箱,中间还有一定的比例是鼻涕虫;熊猫图片加上一些肉眼几乎不可见的小噪声,也可能被识别成长臂猿。这些图片用人眼来看是一目了然的,但是人工智能为什么会犯错,这很难解释。因为AI的能力分布在巨大的参数中,出了这些问题,我们既无法解释、也难以调试。
第三个挑战是AI的效率。
首先我们看看能效。从2022年第60届全球超级计算机Top500中看到,排名第一的Frontier,计算性能约1102PFLOPS,能耗是2千1百万瓦;排名第二的Fugaku,计算性能约442PFLOPS,能耗是3千万瓦,而相比之下,人脑只需要约20瓦就能等效实现30PFLOPS的计算性能。可见当前这些超级计算机单位能量的计算效率,要比人脑低大约三万倍到十万倍。除了人脑外,高效智能在动物界普遍存在,比如乌鸦大脑只用0.2瓦的能量,就聪明到将核桃衔到高空扔到水泥地上砸开,有一次我在柏林的阿尔伯特∙爱因斯坦大街上逛,差点被乌鸦从高空扔下的核桃砸中,在这张照片上,作为补偿,我抢了乌鸦的半个桃仁来吃;乌鸦还会将铁丝掰弯做成钩子来钩东西吃,它在观察环境、适应环境、解决问题上的能力,远不是当前的AI能比拟的。
其次是数据效率。我们除了通过从大数据中得到统计规律,来认识和理解世界外,能不能从小数据中进行思考,发现逻辑性,形成概念,抽象出原则?
面对这三个挑战,如何进一步寻求突破呢?我建议从实用的角度,来发展知识和智能。如何通过从外部环境和我们自身的事实和现象中,归纳抽象出概念和属性、及其关系和运行规律,来形成知识?按柏拉图的理念,知识应该是被验证过的、正确的和被人们相信的。能不能提升达成追求或者目标的能力,来发展智能?具体来说,可以通过感知与交互、计算或者试错,在复杂的环境和有限的资源下达成目标。我们要通过智能来认识环境、适应环境,甚至改造环境以及我们自身,其正确性、适用性与高效性就很重要。从已有大数据中提取概率分布来进行拟合和推演,是实现智能的一种手段,除此之外,我认为智能也要考虑因果推理、给出假设和进行试错,提出问题和创造性地解决问题等。
近几年学术界有很多跳出Transformer之外的新型AI架构的思考,例如Geoffery Hinton的GLOM模型,建议通过各种学习方法,实现从部分到整体,类似人类的感知系统;Yoshua Bengio建议未来的人工智能由基于直觉的System1模型和基于逻辑与归纳的System2模型组成;Yan LuCun建议以自监督的方式来学习世界模型,然后利用这些模型进行预测、推理和规划;Richard Sutton提出基于经验的AI,通过与环境的交互而获取经验,构建AI的目标和整个世界的状态,使得智能体可以学会与环境沟通、合作和竞争。
哈佛大学Howard Gartner教授把人类的智能分类成八大类,包括语言文字、视觉与空间、自然理解、自我认知、人际关系、音乐、运动和数理逻辑。
图灵奖教授Joseph Sifakis提出自主系统概念。
我建议在这些思考的基础上,发展感知与建模、知识自动生成、求解与行动三个核心部分,通过从多模态感知融合与建模,到“知识+数据”驱动的决策,实现更高正确性与适应性的自主智能系统。感知与建模是对外部环境以及自身的表征与抽象;知识的自动生成应该将吃穿住行、琴棋书画、数理化生等人类能表达与不能表达、能感知和不能感知的知识都考虑进来,要考虑Human in the loop,将人已有的经验融入到策略模型或评价函数当中;求解与行动可以是在已有知识的基础上,结合内外部信息进行直接的演绎推理,或者通过与环境交互试错,来找到解决办法。
希望未来的自主智能系统,更好地支持自动驾驶网络、自动驾驶汽车、云服务等领域。
其次是发展更好的计算模式,以及与之匹配的计算架构与计算部件,来持续提升智能计算的效率。
- 责任编辑: 连政 
-
非常罕见!21世纪仅有7次
2023-04-19 22:45 天文 -
生成式AI监管新规征求意见,专家:应为市场留足发展空间
2023-04-19 09:08 观网财经-科创 -
“这事再次印证了互联网上广为流传的一句话”
2023-04-18 16:06 美国一梦 -
华为再发新机:搭载高通处理器,将部分旗舰功能下放
2023-04-17 23:09 观网财经-科创 -
长七遥七运载火箭运抵文昌发射场,将执行天舟六号任务
2023-04-17 11:00 航空航天 -
神舟十五号乘组,刷新纪录!
2023-04-16 16:40 航空航天 -
英特尔CEO:非常看好中国市场,中国的增长令人振奋
2023-04-14 15:26 观网财经-科创 -
法国、西班牙等宣布调查ChatGPT
2023-04-14 12:15 科技前沿 -
中国空间站氧气资源100%再生
2023-04-14 09:37 航空航天 -
中国空间站氧气资源100%再生,水资源闭合度提升到95%以上
2023-04-13 22:43 航空航天 -
卢拉参观华为上海研究所
2023-04-13 16:07 华为 -
福建海事局:16日东海部分水域可能有火箭残骸坠落
2023-04-13 15:26 航空航天 -
中国科学家培育出首个猴子“假胚胎”
2023-04-13 09:41 科技前沿 -
巴菲特回应减持比亚迪:为更好配置资金,不急于减持
2023-04-13 08:32 -
403秒!中国“人造太阳”创造新世界纪录
2023-04-13 06:43 科技前沿 -
“夸父一号”卫星观测数据向国内外试开放
2023-04-12 22:16 天文 -
王文涛会见英特尔公司首席执行官基辛格
2023-04-11 15:58 中国外交 -
首次发现!这种动物有两套DNA
2023-04-10 08:22 -
华为盘古系列AI大模型即将上线?知情人士:疑似资本炒作
2023-04-09 07:44 观网财经-互联网 -
双曲线一号,成功发射
2023-04-07 14:54 航空航天
相关推荐 -
“这是中国车企对欧洲野心最大胆的表述” 评论 91中国和匈牙利建立新时代全天候全面战略伙伴关系 评论 149习近平同匈牙利总统舒尤克举行会谈 评论 32德国公开叫板欧盟:反对!我们想和中国竞争 评论 167最新闻 Hot
-
“新加坡不亲华也不亲美,绝不允许自己被‘台独’利用”
-
曾两度参加越战抗议被捕,犹太裔教授对话观网:我这样看“犹太影响”
-
“越南:领导人繁忙,无暇接待”
-
还未高中毕业,特朗普18岁小儿子将步入政坛
-
外媒披露中菲录音记录,打脸菲方
-
约1500公里,乌方称发动“最远距离袭击”击中俄油气设施
-
“这是中国车企对欧洲野心最大胆的表述”
-
“最快下周”,美国要对中国关键领域下黑手?
-
“美国超中国,成德国最大贸易伙伴”
-
她声称美国或对中国联网汽车采取“极端措施”
-
“港独”歌曲被颁布禁制令,李家超发声
-
“他承认,支持封杀TikTok是为了保以色列”
-
“加沙过半供水设施遭破坏,这是在杀人”
-
印军撤离最后期限前一天,马尔代夫外长访印
-
立陶宛议会批了,俄学者讽:谁训练谁?
-
“拜登偏要当张伯伦,别怪美国犹太人不给他投票”
-