你刚刚提到了大脑，我是一名神经科学家，我研究大脑，我的专业是计算神经科学。这意味着什么？从事计算神经科学的人试图理解大脑是如何进行计算的。我刚才提到了神经网络，那是一个好例子。但大语言模型基于一种特殊的架构，这种架构是受人类大脑皮层启发的。大脑皮层是大脑表面的一层薄层，它非常重要，是我们知识的储存库。但大脑中还有数百个其他区域，这对人类的生存同样重要。ChatGPT在其他区域的能力并未被使用。它有点像云端的大脑，没有手臂和腿，没有眼睛，它所知道的只有词语，因为它是基于词语训练的。不过这种情况正在改变，现在新的网络也开始基于图像和电影进行训练。这只是过去几年取得进展的又一个例子。

AI生成的海边小屋

这确实令人惊叹。对我来说，比文字处理更令人惊讶的是，你只需输入几个词就能生成新的图像。比如我想要一幅美丽的场景，一栋能看到海景的漂亮房子……你可以描述你想要的，然后按一下按钮，你就得到了。这原本可能需要一位艺术家花费数天甚至数周才能创作出来，但AI可以几秒钟就做到，这太神奇了。现在AI还能生成电影片段，几乎与真实电影和真实演员真假难辨。

这简直是科幻变成了现实。三四十年前，我们是绝对预测不到这些的。大脑的其他区域对于在现实世界中的生存和自主性确实至关重要。例如，如果我们想制造机器人，就必须加入那些大脑区域的模拟，必须有感官信息输入以方便机器人移动，必须有长期记忆。目前的大语言模型，在对话结束后，什么都没有留下。它没有长期记忆，它不会终身学习。而人类总是在学习，也许不如在学校时学习那么高效，但我们仍然能学习新东西。这一点上ChatGPT是做不到的，它被预训练后就这样了，不会再学习新东西。

这只是其中一个例子，大语言模型还有其他缺失的部分。比如，人类拥有一个极其复杂的系统，我们称之为情绪，我们会快乐、悲伤、愤怒、厌恶等等。这些是人与人、人与世界互动时产生的情绪。而这些情绪对应的大脑部分在ChatGPT中完全缺失，它没有情绪相关的脑部分区。当然，ChatGPT认识“情绪”这个词，如果用户输入的内容显示出不安，它或许能识别出来，因为有很多小说描写人们不安的场景，它“知道”这些，但它自身无法拥有情绪。

“任何新技术都有被坏人利用的可能，AI不是特例”

观察者网：所以您作为科学家，并不相信那些科幻小说所描绘的未来——超级AI会对人类构成威胁？

特伦斯·谢诺夫斯基：不，危险是另一个层面的问题。所有新技术都既可用于好的目的，也能用于坏的目的。我举两个例子。

当上个世纪，核能被发现时，人们说，哇，这将为我们的未来提供巨大的能量。而且它是一种清洁能源，不会产生大量烟雾或任何对环境有害的东西。但是你也看到了，它也能被用来制造核武器。所以人类必须对这项技术的运用进行监管，必须防止它被坏人利用。当然，事情有时可能失控，但总体而言，我们已经设法遏制了那些可能发生的可怕用途。

还有生物技术。当我们发现如何操纵基因时，情况就很清楚了，我们不仅可以用它来帮助人类健康、治疗疾病，我们也可能制造出能够消灭人类的可怕病毒，导致生存威胁。但你知道，科学家制定了规则，规定了在什么条件下可以开发对我们有益的新基因和新病毒，并防止任何可能伤害我们的东西被释放出来。生物技术在医学上为人类带来了巨大益处，也创造了各种新设备和新药物，帮助人类拥有更好的生活。

现在，我们有了AI新技术，它也会不断往前发展。顺便说一句，我们非常不擅长想象未来可能发生的坏事。例如，我们不善于理解那些无人能预测的意外后果。这肯定会发生，但只有当科学家开发的这项技术能让人们大规模使用时，他们才能真正开始理解其影响。我们知道会有坏的影响，但首先必须理解这些坏影响是什么，然后才能像过去一样去防止这项技术被坏人利用。

这次没什么不同。250年前的工业革命到来之后，蒸汽机极大地增强了劳动生产力。现在，人类不用铲子去挖渠，而是可以操纵一台大机器去挖一个更大的渠。所以，几十年后，这个世界被彻底改变了：我们有了摩天大楼，有了能横穿整个国家的火车——在中国，你们有3000公里长的高速铁路，这不可思议。这些都是过去250年发展起来的技术。

而我们现在还正处在AI技术的开始阶段。就像最初的蒸汽机，顺便说一句，最早的蒸汽机会爆炸，因为人们不知道如何调节压力。后来它彻底改变了农业生产。在那个时代，地球上99%的人都在农场工作，因为我们需要食物。而现在在美国，只有2%的人口在农场工作。因为一个人就能用机器耕整片土地，不再需要人们用手工或者甚至用马来种植了。有趣的是，我们还用“马力“这个词来形容汽车动力性能有多强劲。

AI技术用于生物技术和药物研发，能大大减少实验时间，造福于人类

但我们仅仅处于AI技术的开端。即便是我们第一次接触这项技术，它已经极大地提升人类的认知能力和我们的思考能力，它已经在科学上产生了这种影响。例如，AI已经改变了生物学，这令人难以置信。你知道，现在我们有人工智能预测现有分子的功能，还可以设计创造新分子。这太不可思议了。以前这必须通过反复试验才能完成，现在我们可以用AI来做。AI用于科学领域的技术研发，其能力强大得令人难以置信，这为创新材料和药物研发打开了大门。最终，这将让每个公司、每个家庭受益。

制止AI偏见，科学家们正在努力

观察者网：您对AI技术的信心鼓舞了我们。我同意，每一新技术刚出现时，人们都会有这种担忧。下一个问题也是您在写书时提到的，我也经常遇到。我在使用ChatGPT的时候，会发现它有时会编造事实和来源。这种现象您称之为“幻觉”，为什么会发生这种情况？这是一个需要修复的技术缺陷，还是说这种虚构能力在特定情境下也可能是一种的创造力？

特伦斯·谢诺夫斯基：很好的问题。你说得完全正确。“幻觉”这个词通常指服药后开始看到不存在的东西，这是医学上的一个专业术语。人类确实也会这样做，会发生在正常人身上，也发生在大脑受损的人身上，这被称为“虚妄症”。

例如，酗酒的人，大量饮酒会损伤大脑，他们做的事情之一就是开始编故事，凭空捏造很多事情，而且他们自己并不知道，他们只是认为大脑告诉他们这事发生过，而实际上并没有。而你所说的“幻觉”，在技术上，我们称之为“虚构”。所以你看，人工智能反映了我们自己的缺点。

当我们要求AI帮助写论文或准备要发表的文字材料时，我们不希望出现这种情况。然而，如果你是个作家，你需要新的情节，需要创造性的时候，AI能编造新故事，这就很棒。所以你看，它可以被用于好或坏的方面，这取决于你的目标是什么。

另一个问题是，这些大语言模型经常会“偏离轨道”。意思是它们可能产生偏见，说些不好的话，比如种族主义言论或其他冒犯的话。我们有文化，有规则，人类需要遵守。因此，我们确实需要控制这些大语言模型。

人类从一出生就开始学习什么是好，什么是坏，出于本能不会做伤害自己的事，比如把手伸进火盆里。人类通过经验学到这点。然后，从父母、学校那里学习文化价值观。大脑中负责训练的部分，叫做基底神经节，它不仅仅是训练动作，还参与高级认知功能，如学习、记忆、情感和习惯养成。这是强化学习的结果，如果你做了好事，得到了父母的认可，比如他们会拍拍你的头，说你是好孩子，那就是积极强化，所以你以后还会这么做。但如果你做了坏事，你可能会挨打或被责骂，那感觉不好，你就学会了不该那样做。

作者认为，AI会说谎其实反映了人类的缺点；大语言模型技术还处在开端，未来会增加是非判断的功能

然而，大语言模型从未得到过任何这样的反馈。它们只被喂了大量的词语，这叫做预训练。最后，科学家会尝试做一些“微调”的工作，设置所谓的“护栏”来防止这些坏事发生，比如制止AI说不该说的话。但这已经有点晚了。

所以，再强调一次，我们仍然处在大语言模型技术的开端，正尽我们所能利用现有的技术。但在未来，这些大语言模型将会像养育孩子一样被培养起来，在整个过程中，会不断给予它们好与坏的反馈。这是当前AI所缺失、但未来将会被加入的功能之一。

过度依赖AI，不会削弱人类认知能力

观察者网：随着对AI功能的挖掘，引发我们很多思考。一些研究表明，重度依赖AI工具，可能会削弱我们深度思考或储存知识的能力。例如，作为一个长期英语学习者，过度依赖DeepSeek来翻译，可能会影响英语阅读和写作能力。这是AI改变我们的一个小小例子。作为精通神经科学和AI的专家，您认为长期依赖AI是否会逐渐削弱人类认知能力？

特伦斯·谢诺夫斯基：你指出的问题在过去也曾发生过。每当有新技术出现，人们总会担心我们会忘记如何使用旧技术，这在某种程度上是事实。