-
拉斯·特维德:我们即将经历下一个技术奇点,超智能时代人类会更加不平等吗?
观察者网:我想更深入聊聊大模型,我与您在一些看法上可能不同,从现在的角度看,似乎“Scaling Law”(大模型的规模定律)已经到达了一个极限。各家大模型可获取的数据量也在逼近上限。大模型的未来将如何?我们会不会以其他算法路线取代当下的大模型范式?
拉斯:我认为,大语言模型的基本概念可能会发生变化。当前,当你给它一个任务时,它会经历处理过程,随后因存储等问题而遗忘相关知识。若其记忆能力更强,就能更高效地自我教学。
针对你提到的“数据枯竭”问题,我认为它也存在解决方案,这被称为AI的“数据墙”(data wall)。现在互联网上的数据量仍在增长,有用的数据每年大概增长5%左右,并不算多;而训练数据正在逐步追上它。
所以解决问题的关键在于,让AI进行模拟,也就是自我对弈。早期最吸引人的例子之一是AlphaGo。它先在海量历史棋谱上进行训练,然后基于上述经验再与自己对弈提升能力。一年后他们推出了AlphaGo Zero,这个AI从零基础开始训练。一开始它下得就像一个新手,但3天后它就达到世界冠军水平,40天后就彻底击败了上一代模型。
目前,许多模型采用类似的自我博弈训练。例如Waymo公司99.9%的自动驾驶训练发生在仿真环境中,他们可以以比现实快35000倍的速度进行模拟。又比如AI模型在寻找蛋白折叠规律的速度比人类传统速度快上百万倍。
2017年柯洁惨败于AlphaGo
同样,你还可以对世界经济系统、政治系统等进行建模和自我对弈。事实上,AI几乎在任何领域都可以实现自我博弈,以创造出庞大的可能性。这是一门称为系统动力学的学科,而它仍处于萌芽状态,但这意味着大语言模型能积累远超任何人类曾在任何数据库或互联网上发布过的知识总量。我认为这点非常重要。
另一方面,物理世界中的AI机器人之类的具身智能也可以实时学习,我们可以接入它们的系统并利用它们的学习成果促进AI模型发展。事实上,如果外面有数百万乃至数十亿台从自动驾驶汽车到家庭、办公室、餐馆之类的机器人,它们不仅可以以一种当今互联网所不具备的方式去学习世界如何运作,而且由于世界在不断变化,它们会实时捕捉这种变化,并用于补充这些模型的不足。
因此,我不认为“数据墙”不可跨越;这些模型将会捕捉并自动创造信息。我对大语言模型的发展持相当乐观的态度。
观察者网:但已有部分论文表明,用AI自生成数据训练大模型会导致“中毒”、加深偏见。您怎么看?
拉斯:是的,我理解你所说的逻辑,我们会默认AI自主合成数据是正确的,而一旦这些数据是错误的,AI会基于错误的数据进行训练,就会合成出更多错误数据放大偏差。
但我认为这可以通过工程化方式进行解决,大语言模型的发展能够应对许多问题。举例而言,随着新的GPT-5的出现,我们拥有了多模型路由体系(混合专家体系,MoE)。当你给出一个提示语时,系统会判断这个提示语应该被发送到哪个模型。
我们也看到,最近DeepSeek和Claude这些模型在处理AI幻觉的时候相比于早期版本更加在行了。当你不需要AI幻觉的时候,他们可以尽量约束相关参数,而当你需要它们散发想象力的时候,他们释放相关参数。例如,我说“请为某件事起草一个好标语时”,它就会调用更具想象力的路径。
就在我们见面之前,我还问过AI这样一个问题:“世界历史上是否有一个时期,罗马帝国与中华帝国的人口合计占到全球的三分之二?”它给出了正确答案。也就是说,模型在“何时求真、何时发散”的判别上在进步,并且会进行你所谓的红队式(red team,即西方在军事演习、网络安全演习等领域中扮演敌人或竞争对手角色的群体)对抗性审查:对给定信息主动追问“真的正确吗”,以进行审查与反复核验。
当然,你提到的问题确实存在,但我认为AI会在这一领域持续改进。
观察者网:您认为智能发展必将超越国界,那么国际合作在人工智能发展中有多重要?您认为在超级智能领域采取碎片化、竞争性的做法会带来哪些风险?
拉斯:我认为国际合作非常有用。但在某种程度上,我对能否顺利实现国际合作持一点怀疑,因为国家之间的竞争非常激烈。不过,已出现一些积极迹象,例如机器人间数据交换的通用协议。这是个不错的方向。
至于我个人,我最关心,也最需要国际合作推进的是版权。原因很简单:AI与国家安全、财富与成功等方方面面密切相关。人们会意识到,对于各类知识的版权管制越宽松,你的AI模型演进越快;而如果你完全放松版权,AI就会以最快速度演进。
就我个人而言,我赞成涉及各类文化、知识产品的版权法律可以宽松化,如果中国、美国、欧盟、韩国、日本等能够就版权法的规则达成一致,将更为有利。我不知道这会不会发生,但我认为那将极其有用。
在美国,总统科学技术顾问委员会主席大卫·萨克斯正牵头AI政策。他是一位非常成功的企业家与风投家,对AI的商业与技术都有深刻理解。他正在致力于让AI法律变得统一且简明,并且目标是告诉大家:在未来10年内我们不打算修改它,虽然我不认为这一目标能够实现,但他的想法就是让AI法规尽可能地简单而和谐。
许多人会说:“用我的书、别人的音乐等内容来训练AI,是在偷我们的财产。”但我这本书就大量用到了AI。我把AI看作人人可“演奏”的创造性钢琴。我认为我们应当允许AI尽可能地摄取内容,并在更广的范围内使用而不必支付无数项版权费;因为它会成为整个人类共同的平台,其成果会回馈到所有人。
“DeepSeek时刻”后越来越多的国人接触AI
观察者网:若人工智能在所有领域超越人类认知,人类在人工智能演进进程中应承担何种目标与贡献?我们应当如何在超级智能时代维系自我意义与自主性?
拉斯:首先,若从更高的视角看:如果人类真的创造出超智能,而这种超智能最终遍及整个宇宙,甚至成为“宇宙意识”,那么我们就是带来这一切的起源。因此,我要说的第一点是:我们应当珍视自身在创造这一切中的角色。但这与我们的日常生活并无直接关联。
回到日常层面,我认为我们应当追寻那些既特殊又令人愉悦的价值,以便在一个大部分GDP由AI创造的世界中,继续坚持人的独特价值:例如同情心、好奇心与创造力等。届时,每个人都可以探索自我价值:我是作家吗?我是艺术家吗?我喜欢照顾孩子吗?我想帮助无家可归的狗吗?我是否想要重建已消逝的自然吗?诸如此类。
我们需要认识到,人类具备意识,而AI并不具备。我们可以体验这个世界,而AI不行。这意味着我们可以基于我们对世界的主观体验来为彼此创造新事物,改造世界。
我有时把当下处境与人类与猫狗的关系作类比。最初,当人类开始与狗共处时,它们尚且是狼。我们和狗共同生活的理由是:它们可以保护我们,而我们喂养它们。但如今我们并不需要狗来保护我们,我们只是喜欢狗。同样,我们最初养猫是因为它们会捕食老鼠;而现在鼠患不再普遍,但是我们喜欢猫。
如果我家里有10条狗和10只猫,这并不会提升我的生产率;事实上它们会使我的生产率下降,因为照料猫狗既耗时也花钱。同理,单纯增加人口并不必然提升技术的生产率。但人类可以很友善,我们可以以善意激励、鼓舞他人。
现实生活中,在线音乐几乎是免费的:我订阅了Spotify、Apple Music以及其他诸多服务。尽管如此,我仍非常喜欢去音乐会,也喜欢走进爵士乐吧,看着三位音乐家在我面前演奏。他们演奏的音乐或许相同,但我能看见他们,这是完全不同的体验,因为他们是人。因此,我们必须把重心放在人与人的真实互动上。
由此,未来的生活方式会很不一样;但我们也将有机会提供比今天更多的基础性公共免费服务。未来也许不仅教育与医疗是免费的,还可能包括基础免费交通、基础免费互联网和基础免费AI等服务。也就是说,未来人们的基本需求将大体得到满足;若他们希望获得更多,则需要通过工作来实现。
本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。
-
本文仅代表作者个人观点。
- 责任编辑: 唐晓甫 
-
世界最大!5000平方米高空风力发电捕风伞成功开伞
2025-11-12 20:20 能源战略 -
180万件!中国蝉联全球第一,是美国的三倍多
2025-11-12 17:49 -
33岁刘灿,已破格升任人大教授
2025-11-12 15:30 科技前沿 -
没电,数据中心空置!这还是在英伟达的“老家”
2025-11-11 14:06 美国经济 -
神舟二十号航天员乘组返回任务有序推进
2025-11-11 10:57 航空航天 -
“十五五”规划点名,科技巨头押注,脑机接口为啥火?
2025-11-10 15:51 思路打开 -
美国AI新规为何令黄仁勋坐立不安,喊出中国要赢
2025-11-10 07:48 心智观察所 -
颜宁院士团队获北京市科学技术奖自然科学奖一等奖
2025-11-09 21:47 -
郧县人复原得对不对?我们一开始就想到老外会这样问
2025-11-06 13:59 考古 -
国产化进程当前的关键词是“深水区”和“高端化”
2025-11-06 09:43 心智观察所 -
这只年底睁开的“超级眼睛”, 为何是我国科技自立自强的利器
2025-11-05 13:00 心智观察所 -
疑遭空间微小碎片撞击,神二十载人飞船返回任务将推迟
2025-11-05 10:08 -
搜寻暗物质,我国科学家提出新架构
2025-11-04 18:01 科技前沿 -
亮度可达太阳1万亿倍!这一大国重器,有重要进展
2025-10-30 20:41 科技前沿 -
一只“手”背后的人形机器人革命
2025-10-29 14:20 心智观察所 -
人民日报聚焦科大硅谷:懂服务的科创园区有“人缘”
2025-10-28 22:16 地方产业动态 -
中美商业航天公司扎堆上市,孰优孰劣?
2025-10-28 13:26 -
中国最优秀的学生,不再需要美国顶尖高校了?
2025-10-28 08:29 心智观察所 -
知情人士:半固态电池将统一更名
2025-10-27 11:09 -
花了快7亿,等了5年,船呢?!
2025-10-27 09:16
相关推荐 -
最新闻 Hot
-
鲁比奥又提到中日:我们有信心
-
未受制裁油轮,也被美国强行扣了
-
“俄乌谁先动的手?乌克兰可不是小国”
-
美媒大肆炒作,美企CEO无语:是我们求中企救命啊…
-
“我要回圣彼得堡了,和阿萨德做邻居,当标题去吧!”
-
肠子悔青,“太多鸡蛋装美国篮子里了,指望中印…”
-
全是克林顿,没有特朗普?美司法部急辩…
-
中企修个跑道,美国吓成这样...
-
“成都女子家门口遇害案”,宣判!
-
美方最新表态:不会强迫乌克兰
-
“台湾有事,我们印度不会学西方啦”,不过嘛…
-
特朗普自吹:多亏了我,不然被中国毁了
-
如何创作更高质量的游戏作品?中国游戏人这样说
-
河南公示:拟申报以中原工学院为基础设立河南电子科技大学
-
普京承认正在恋爱中
-
市委书记现场发问:你都不懂你怎么去管人家?
-

观察员





上海市互联网违法与不良信息举报中心