-
心智观察所| 对话专家:AI视频真假难辨,普通人如何防范
最后更新: 2026-02-14 17:23:12问:能否通过视频元数据、设备指纹或网络传输特征辅助判断视频真实性?
周迪:可以,这些维度是我认为很重要的辅助手段。元数据分析可以发现设备信息缺失、编辑历史矛盾;设备指纹——传感器模式噪声——像相机的独有指纹,能验证视频是否来自声称的设备;网络传输特征——实时流的包间隔、码率波动——和预制文件推送有明显差异。这些方法在司法鉴定、内部审计场景非常有价值。
但问题在于,攻击者也可以伪造元数据、抹掉设备指纹、模拟传输特征。所以我认为它们只能作为辅助判据,在实时验证场景还难以成为独立防线。未来更可行的路径是多维度交叉验证——元数据、设备指纹、内容特征、生理信号一起看,单一维度的破绽容易被补上,多个维度同时伪造难度就大多了。
问:安防系统应如何重构以应对 AI 欺骗?是否需要引入“零信任”架构或持续身份验证机制?
周迪:必须重构,我认为核心就是“零信任”和“持续身份验证”。零信任意味着不再默认“通过门禁就可信”,每一次资源访问都要实时验证;权限极度碎片化——即使攻击者伪造了 CEO 的脸骗过门禁,没有硬件令牌也进不了服务器机房。持续身份验证要求系统在用户操作全程,无感采集行为特征、微表情、环境信息,不断比对,而不是进门刷一次脸就完事。
技术栈上,我认为必须引入硬件级多因素认证,比如 U 盾、NFC 卡、手机 TEE,让 AI 无法模拟物理凭证。交互上要增加随机挑战-应答——突然打光、随机指令,让单向生成的 AI 视频在实时反馈面前露馅。一句话,抛弃“照片即身份”的旧思维,建立“数据+行为+硬件”三位一体的动态防线。这不是升级,是推倒重来。
问:边缘计算与端侧 AI 在提升响应速度与隐私保护方面能发挥什么作用?
周迪:我认为边缘计算和端侧 AI 是应对 AI 欺骗的“守门员”。响应速度上,本地跑轻量模型可以做到毫秒级阻断攻击,云端来回几百毫秒,攻击者已经得手了。隐私保护上,原始人脸数据不出设备,只上传加密特征向量,黑客截获了也还原不出原图;还能在本地打马赛克,合规又安全。
离线韧性也是我看重的优势——断网也能独立运行活体检测,不会因为网络攻击整个防线瘫痪。当然,端侧算力有限,模型必须压缩,精度可能略逊云端大模型。所以我认为未来的架构一定是端云协同:端侧粗筛掉 90% 的低级攻击,可疑样本再加密上传云端做深度分析。把智能下沉到边缘,是保护隐私、提升响应速度的必经之路。
即梦运营发布通知称Seedance2.0暂停真人素材作为主体参考
问:您认为是否需要建立 AI 生成内容的强制标识制度?谁应负责制定相关技术标准?
周迪:我认为非常必要,这是维持数字社会信任的最后一道防线。强制标识能从源头改变博弈格局——没有水印默认是真,极大降低验证成本,避免社会滑进“什么都不信”的虚无主义。这不是技术问题,是制度生存问题。
标准制定我主张多元共治。政府定法律底线,明确什么必须标识、不标识的后果;国际标准化组织如 IEEE、ISO 牵头统一协议,避免不同平台水印互不识别;技术公司负责在模型底层强制嵌入符合 C2PA 标准的不可见水印,硬件厂商在芯片级支持水印生成。挑战是水印必须足够“顽固”——截图、压缩、录屏都不掉,还要人眼看不见。这就像食品配料表,AI 时代,“生成方式”是数字内容的必要属性,不能让步。
问:现有法律法规是否足以应对深度伪造带来的新型安全问题?
周迪:坦率说,现有法律在全球范围内都明显滞后。我认为问题集中在五个方面。
一是定义难——混合人格侵犯了谁的肖像权?已故人物“AI 复活”权利归属?现行法没覆盖。
二是取证难——鉴定高保真伪造成本极高,普通受害者维权成本远超赔偿;证伪比证真难,举证责任倒置尚无先例。
三是量刑难——套用诈骗、传播淫秽物品罪量刑偏轻,缺乏“滥用深度合成”独立罪名,震慑力不够。
四是管辖难——服务器设在监管薄弱国家,匿名币支付,国内法律鞭长莫及。
五是平台责任——避风港原则面对实时生成内容形同虚设,加重审查义务又涉隐私。中国虽然已有《深度合成规定》《生成式 AI 办法》等先行规章,但层级较低,刑法层面仍需补课。
我自己的判断是,未来必须“生成即标识”入法、增设专门罪名、加强国际协作,才能与技术攻防形成合力,否则法律永远追着技术跑。
问:安防厂商、AI模型开发者、云服务商、终端用户之间应如何协作构建“防伪生态”?
周迪:防伪生态是典型的木桶效应,我认为哪块板短都漏水。AI 开发者是源头管控者,必须在模型输出端强制嵌入符合 C2PA 标准的不可见水印,并开放鉴别接口给安防厂商。这不是可选项,是责任。安防厂商是智能守门人,要升级算法读取水印,融合多模态信号,部署主动挑战-应答,不能只靠被动检测。
云服务商是信任传递者,提供加密传输、区块链溯源、大模型深度鉴定服务,并实时同步威胁情报。终端用户是最终把关人,主动启用多因素认证、响应随机指令,并反馈异常样本。只有四方数据流动、标准统一——从源头打标、门禁验货、云端背书到用户核准形成闭环,技术对抗才能升级为生态对抗。单点防御的时代已经过去了。
问:您预计未来 3--5 年,AI 伪造与检测技术将呈现怎样的“军备竞赛”态势?是否存在“终极解决方案”,还是我们必须接受一定程度的风险共存?
周迪:我认为未来 3 到 5 年是高强度动态僵持期,而且不存在终极解决方案,我们必须学会与风险共存。军备竞赛会呈现三大态势:一是从视觉欺骗升级为全感官欺骗,3D 深度、生理信号、触觉反馈都可能被伪造;二是从对抗生成升级为对抗蒸馏,生成器会消除所有已知检测特征,并转向“真假参半”的编辑型攻击——改个车牌号、删掉一个人,比凭空造假更难防;三是从技术对抗演变为算力消耗战——造假几美分,鉴真几美元,防御方成本倒挂。
为什么不存终极方案?在我看来,哲学上完美模拟即真实,真假定义本身会模糊;硬件可被模拟或篡改;攻防不对称性注定防御永远被动。所以我们只能转向概率信任,给内容打可信度评分,高风险操作强制链下多重验证。就像我们学会与病毒共存、与网络黑客共存一样,这不是妥协,是成熟。
问:普通用户和企业应如何提高警惕?在关键身份验证环节应采取哪些额外防护措施?
周迪:普通用户,我认为必须建立“数字怀疑论”——打破眼见为实。警惕紧急情绪逼迫转账的场景;观察口型同步、眨眼频率、边缘细节这些 AI 硬伤;反向搜图验明正身。社交媒体少发高分辨率正脸照片,关闭定位,切断数据原料。这不是过度紧张,是防身。
企业要靠流程防火墙。财务指令必须双重确认——视频指令再真,也得挂断打已知号码核实;大额转账双人复核。硬件上升级 3D 结构光、红外终端,网络走专线。关键验证环节,我特别强调三件套:一是非受控交互,比如随机指令“用手遮嘴”“快速转头”,AI 实时生成难度极高;二是多因子叠加,U 盾、硬件令牌、手机 OTP 加语音回访,物理硬件 AI 伪造不了;三是环境挑战,系统主动频闪补光,真人瞳孔会缩,屏幕视频没反应。最后,全程录像存证。慢下来——多一分钟电话确认,99% 的 AI 攻击当场失效。
本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。
标签 心智观察所-
本文仅代表作者个人观点。
- 责任编辑: 朱敏洁 
-
-
一台晚会能办成什么样,取决于机器人
2026-02-12 09:00 心智观察所 -
打破日本垄断,我国攻克ECMO“人工肺泡”核心材料
2026-02-11 15:57 科技前沿 -
梦舟飞船完成关键“考试”,哪些技术突破了?
2026-02-11 15:18 航空航天 -
视频:长征十号系列火箭低空飞行试验箭完美溅落
2026-02-11 15:17 航空航天 -
-
10日0时起至12日24时,南海部分海域进行火箭海上回收作业
2026-02-09 14:09 航空航天 -
我国科研机构主导的大模型成果首次登上Nature
2026-02-07 09:02 心智观察所 -
马斯克究竟想干什么?
2026-02-06 08:00 心智观察所 -
“没想到我的课堂作业成了中美AI‘决战’的竞赛场”
2026-02-05 20:45 问诊2026中国经济 -
春节里一场不得不打、且必须此刻打响的战役
2026-02-05 08:24 心智观察所 -
“太空蝴蝶”破蛹展翅,太空生命生存试验翻新篇
2026-02-04 20:22 航空航天 -
特斯拉把电池制造的“圣杯”搞定了
2026-02-03 08:02 心智观察所 -
北京小孩哥野外发现,填补研究空白
2026-01-31 17:07 -
阿尔及利亚遥感三号卫星发射成功,习近平同阿总统互致贺电
2026-01-31 14:59 -
当特朗普质疑中国风电时,我们在谈论什么
2026-01-31 09:00 心智观察所 -
在宇宙布下“监听系统”!我国新增量子神器
2026-01-30 12:05 -
-
一人公司与造物主2.0:赴拉斯维加斯参加CES展会后的感想
2026-01-29 14:25 -
离体脑细胞学会打游戏,智能从何而来?
2026-01-29 08:21 心智观察所
相关推荐 -
“鲁比奥没戳欧洲眼睛,但破镜难圆” 评论 19
“美国人关心谁造的车?他们天天买中国货” 评论 46
五角大楼高官演上了:没想“扼杀”中国 评论 121
杠上了!“谁说欧洲文明要完?加拿大还想加入呢” 评论 54
美国可以靠AI打破中国稀土主导权?“极不现实” 评论 104最新闻 Hot

观察员
















上海市互联网违法与不良信息举报中心