中国AI发展如何应对“奥本海默时刻”？

人工智能的高速发展已经是不可逆的文明趋势，机遇与风险并存，自由与束缚交织。

导演诺兰在谈到他的传记电影《奥本海默》时便说：“担忧人工智能的人都对《奥本海默》感兴趣。很多顶级的人工智能研究者，将当下视为他们的‘奥本海默时刻’，他们将奥本海默看作一个警示故事。”

奥本海默是美国“原子弹之父”，“奥本海默时刻”则象征着人类在面对重大科技进步或伦理挑战时，必须深思熟虑并采取措施，来应对潜在的灾难性后果。

AI虽然与核能有所不同，但从能量体对人类的重塑角度来看，意味着发展与安全、和平利用与非和平利用、公域与私域关系重新界定等重大利弊问题的艰难抉择，其未来的影响甚至大于核能。

张晓也说：“人工智能出现的时候，我们就在想，是否到了‘奥本海默时刻’？”AI发展的风险到底在哪里？没有人可以断言。所以张晓强调，要“边发展边治理”，“同时治理要给发展留下足够的空间”。

中国互联网络信息中心副主任、联合国互联网治理论坛(IGF)多利益相关方咨询委员会、中国IGF常务副主任张晓 观察者网

AI的治理，是否可以从互联网治理中借鉴经验？张晓认为，多利益相关方模式是个比较典型的特征。“之前我们说管理的时候，更多地是垂直的、自上而下的，而我们说治理的时候它更多地是一个平面。”

“新技术是全球化的，不仅涉及政府，还有平台企业、用户个体。在互联网刚刚发展的时候，因为技术门槛很高，先由科学家、技术社群做一些标准，然后商业介入，最后随着互联网承载了非常多应用以后，看到政府就强势介入，这个非常重要，因为它承担着公共角色。”

曾毅补充说，需要区分好“发展”和“野蛮生长”的关系，AI的技术发展是有方向的，而“野蛮的生长是没有方向的”。

“比如说，我要训练一个更强大的AI模型，需要利用世界上的所有数据，包括所有人的个人数据，这意味着牺牲掉所有用户的隐私权。”曾毅说，这就不是发展，而是“野蛮的生长”。

他强调，对AI的治理从来不会影响其发展进程，而是以护航者的角色避免AI“野蛮生长”。同样，注重AI安全也不会影响其发展。

在他看来，所谓“平衡安全和发展”的说法存在问题。“平衡是相互掣肘的意思，好似在说，注重安全，发展必然受阻。”

但是根据曾毅团队近期的实验，人工智能大模型完全可以在几乎不影响问题解决正确率的前提下，将安全属性提升20%-30%。

超级智能看待人类会和人类看待蚂蚁一样吗？

2023年3月，美国生命未来研究所发表公开信《暂停巨型人工智能实验》，提出所有AI实验室立即暂停训练比GPT-4更强大的模型至少6个月，以便为制定安全协议和治理框架争取时间。曾毅也大体认同这份倡议的内容。

“当时很多人问我，我国都还没有什么像样的生产式人工智能，你为什么要签字？是不想让中国发展吗？”

中国科学院自动化研究所研究员、人工智能安全与超级对齐北京市重点实验室主任、联合国人工智能顾问机构专家曾毅 观察者网

曾毅解释说：第一，这封公开信限制的是比GPT-4更强大的模型，但中国当时连GPT-3级别的模型都没有，“根本不是去限制中国发展的”。第二，为公开信签字属于自愿承诺，他并不代表中国，而是作为科研工作者认识到了AI发展的风险。

西塞罗（CICERO）是美国Meta公司开发的一款AI系统，曾在2022年8月至10月的线上《外交》游戏比赛中取得过极佳的成绩，被称作“第一款在外交领域以人类水平进行游戏的人工智能”。

曾几何时，外交被认为是AI绝对无法接管的工作。曾毅也说，西塞罗在外交博弈上的进展令他感受到危险。在应对AI灾难性风险能力还很薄弱的当时，“不应当用AI来做这些事”。

事实上，自AI进入人类视野以来，人类对与AI关系的忧虑就如同一道难以驱散的阴影，始终笼罩在文明的上空。

2024年一项针对在顶级AI领域发表过论文的作者的调查显示，37.8%-51.4%的受访者认为，高级AI导致人类灭绝等严重后果的可能性至少为10%。

2001年上映的科幻电影《人工智能》海报，这部由库布里克筹备多年、又经斯皮尔伯格接手执导的电影融合了科幻、伦理与情感。