【文/观察者网专栏作者 熊节】

2025年5月13日，一家美国联邦法院发出了一项令人震惊的命令。该命令要求OpenAI“保存并隔离所有用户活动记录”，即使用户或企业希望删除这些记录。这项命令意味着，从那天起，全球超过3亿用户每天发送的超过10亿条与ChatGPT的对话，正在被无限期保存——即使用户点击了“删除”。

该命令源于《纽约时报》对OpenAI提起的一起版权诉讼。但法院的理由令人不安：“删除数据的用户很可能是试图抹去痕迹的版权侵权者。”换言之，行使删除权——一项基本的隐私保护——正被法院视为犯罪嫌疑的证据。

OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）在社交媒体上警告称，这一决定“损害了用户隐私”并“开创了一个糟糕的先例”。但更令人不安的问题是：这些被强制保存的对话中包含什么？用户向ChatGPT倾诉的医疗症状、财务困难、职业规划、个人秘密——所有这些“都可能被出售或赠与，被黑客侵入，或泄露给执法部门”。

OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）在社交媒体上的回应

这并非假设性的威胁。2023年，三星员工通过ChatGPT泄露了公司的机密源代码。这家韩国公司的律师警告说，这些数据“无法恢复，因为它们现在存储在属于OpenAI的服务器上”。苹果、亚马逊、摩根大通、高盛、德意志银行……从科技到金融，从健康到法律，一长串名单揭示了：全球最大、装备最精良的公司都在限制员工使用ChatGPT。研究显示，近70%的公司为保护机密信息而阻止使用此工具。

如果连这些拥有最先进网络安全团队的跨国公司都无法安全使用ChatGPT，全球南方的政府和企业又怎能做到呢？

企业监控仅仅是冰山一角。当爱德华·斯诺登（Edward Snowden）——这位揭露美国大规模监控计划“棱镜”（PRISM）的举报人——发出警报时，我们必须意识到，问题远比企业数据泄露严重得多。

爱德华·斯诺登

01. 从“棱镜”到ChatGPT：监控的升级

2024年6月，OpenAI任命美国国家安全局（NSA）前局长保罗·中曾根（Paul Nakasone）将军为其董事会成员。爱德华·斯诺登在社交媒体上发布了自被迫流亡以来最严厉的警告之一：“他们已经彻底撕下了面具：永远不要信任OpenAI或其产品。这是对地球上每个人权利的有意识的、精心策划的背叛。你们已经被警告了。”

“棱镜门”披露者斯诺登警告：OpenAI已经卸下伪装……

斯诺登并非空穴来风。2013年，他冒着巨大的个人自由风险，揭露了NSA的“棱镜”计划——一个直接从谷歌、Facebook和苹果等科技巨头收集数据、在没有司法授权的情况下进行大规模监控的计划。“棱镜”丑闻引发了全球震荡，导致许多国家加强了隐私保护法律，欧盟也推出了《通用数据保护条例》（GDPR）。

斯诺登现在警告说，ChatGPT是一个比“棱镜”更强大的监控工具。为什么？“棱镜”是被动地收集通信数据；ChatGPT则让用户主动提供他们最私密的想法。“棱镜”主要收集元数据（谁联系了谁）；ChatGPT收集完整内容——人们的思想、计划、担忧、秘密。“棱镜”涉及数百万用户；ChatGPT拥有超过3亿用户，每天处理超过10亿条信息。更关键的是，“棱镜”的曝光引发了抵抗和法律改革；而ChatGPT的监控行为已被公之于众，却继续被广泛接受和使用。

一些评论家甚至称ChatGPT为“有史以来最大的监控数据库——NSA梦寐以求的数据库”。

02. OpenAI承认其在监视用户

斯诺登的警告并非基于猜测，而是基于他对监控机器如何运作的深刻理解。更令人不安的是，我们甚至不需要举报人来证明OpenAI在监控用户。OpenAI自己的报告就已经承认了这一点。

2025年10月，该公司发布了一份题为《打击恶意使用AI”的报告》。该文件自豪地宣布，自2024年2月以来，它“阻止并报告了”超过40个违反其使用政策的网络。报告详细披露，与中国政府有关的账户会使用ChatGPT起草大规模社交媒体监控系统的提案。据称，俄罗斯组织试图优化入侵病毒，以远程访问系统并窃取特权用户的凭证。据称，朝鲜黑客创建了旨在攻击韩国的入侵内容。

OpenAI的声明

OpenAI将这些披露描述为打击“恶意使用”的成就。但该报告无意中揭示了一个更深层次的真相：为了识别这些特定的“恶意使用”案例，OpenAI必须拥有并使用其常规监控所有用户对话的能力。

思考其技术逻辑：为了发现一个据称正在开发针对某些特定人群的监控系统的用户，OpenAI需要访问和分析该用户的所有对话内容；部署实时或近实时的监控系统；能够分析内容并识别模式；能够将用户与特定国家或组织关联；然后主动选择披露哪些案例。

最关键的问题是：OpenAI只披露其认为是“敌对国家”的案例。那么西方国家呢？美国的盟友呢？该报告保持沉默。这种选择性披露恰恰证明，OpenAI可以监控所有国家，但只选择披露符合美国地缘政治利益的部分。

2025年8月，OpenAI在一篇官方博文中公开承认，该公司正在扫描ChatGPT上的用户对话，并向警方报告内容。具体机制是：用户“计划对他人造成伤害”的对话会被转到专门的审查渠道，由经过培训的人工审核员进行审查。如果审核员确定某个案例涉及“对他人构成迫在眉睫的严重身体伤害威胁”，该案例将被转交给执法部门。

但标准何在？“对他人造成伤害”意味着什么？由谁来定义？这些标准会随着政治环境而改变吗？今天是“迫在眉睫的暴力威胁”，明天是否会涵盖政治异见、堕胎咨询、关于性取向的讨论？