-
心智观察所| 对话专家:AI视频真假难辨,普通人如何防范
最后更新: 2026-02-14 17:23:12Seedance 2.0 作为一款高保真 AI 视频生成技术,最近火出了圈,引发广泛关注。它不仅能“以假乱真”地生成人脸、表情甚至微动作,还能通过一段语音或文字指令直接生成逼真视频,不再依赖原始素材。
这种技术虽然在影视、游戏等领域潜力巨大,但也带来了前所未有的安全风险——比如冒充亲人视频诈骗、伪造企业高管指令转账,甚至干扰司法取证。
一位观察者网用户的新闻评论获得高赞:“我今天了解过Seedance 2.0的能力后,已经决定趁过年给家里长辈科普一下,重点提醒以后涉及资产的都必须直接通话确认,还得考虑额外的安全措施。”
面对这样的“真假难辨”时代,普通人该如何防范?安防系统又该如何升级?观察者网心智观察所日前对话了视觉数据安全技术与应用浙江省工程研究中心主任、杭州电子科技大学周迪教授,请这位业内专家聊聊这场正在发生的“AI攻防战”。
问:您怎么看待像 Seedance 2.0 这种高保真 AI 视频生成技术?它跟以前的 Deepfake 比,到底突破了什么?
周迪:我觉得 Seedance 2.0 这类技术的出现,标志着视觉生成从“能生成”迈进了“高度逼真且可控”的新阶段。在我看来,这绝不只是分辨率从 1080P 升到 4K、帧率更高那么简单,更关键的是,它开始真正理解物理世界了——能模拟光线在皮肤上的反射、肌肉随表情的微动、头发丝的飘动,而不仅仅是像素的位移。
它跟传统 Deepfake 的突破,我认为主要体现在三个方面。一是从“外观模仿”升级到“语义与物理理解”。以前的换脸就是把 A 的脸贴到 B 脸上,一转头、一遮挡立刻穿模;现在它能处理复杂光影、遮挡和长视频一致性,不会闪烁抖动。二是分辨率达到电影级,细节真实到皮肤纹理、血管瑕疵都能还原,直接可以拿去专业影视制作。三是实现了从“被动依赖驱动视频”到“可控生成”的跨越——用文字或音频就能生成人物的表情动作,身份与场景可以自由分离。总而言之,它把 Deepfake 在物理一致性、清晰度和创作自由度上的天花板全捅破了。
问:当前主流的视频监控和身份认证系统,是否已具备识别此类 AI 生成内容的能力?
周迪:坦率地说,主流系统根本没跟上。身份认证这边,我认为带 3D 结构光或红外摄像头的系统目前还能守住防线,因为 AI 视频再真也是平面的,过不了深度检测,红外下也模拟不出真人的眼球反射。但纯软件的 2D 认证,比如笔记本摄像头、部分 App 的活体检测,面对 Seedance 2.0 生成的高保真动态视频,基本一骗一个准——传统依赖眨眼、转头、摩尔纹的防御手段已经形同虚设。
视频监控就更被动了。在我看来,监控系统连算力都不够,成千上万路视频流里实时跑深度伪造检测大模型,目前根本不现实。而且它本来就是为抓拍真实人脸设计的,看到太真的假脸反而会当真人去追踪。更麻烦的是生成技术迭代太快,今天训练好的检测器,明天新模型一出来就可能直接失效,而安防硬件更新周期长达数年,代差非常明显。所以我的判断是:带硬件的身份认证还能扛,纯软件已岌岌可危,监控系统基本是裸奔状态。
问:在您看来,AI 视频“以假乱真”对公共安全、金融交易、门禁系统等场景构成了哪些具体风险?
周迪:在我看来,风险已经从数字世界渗透到物理世界了,而且非常具体。公共安全层面,犯罪分子可以用 Seedance 2.0 伪造不在场证明、篡改监控录像,司法取证成本会暴增;还能伪造公众人物发表煽动性言论,一条假视频就足以引发股市震荡、社会骚乱。金融领域,黑产用 AI 生成点头、眨眼的动态视频骗过银行远程开户的活体检测,批量开幽灵账户洗钱;还有假冒 CEO 视频指令让财务紧急转账,这类案件已经有数百万美元的真实损失。
门禁系统的风险我更担心。那些依赖 2D 摄像头的闸机和智能门锁,用平板播一段高仿真 AI 动态视频就能轻松骗开。最可怕的是虚拟绑架——犯罪分子从社交媒体扒几张孩子的照片和视频,用 AI 生成被绑的画面,家长在极度恐慌中根本来不及核实就直接付赎金。还有一个隐晦但致命的后果:当所有人都知道视频可以随意伪造,哪怕面对真实的监控证据,第一反应也是怀疑。这种系统性信任的瘫痪,会让社会运转效率整体下降,我觉得这才是最棘手的。
问:是否已有真实案例表明这类技术被用于欺诈、冒充或社会工程攻击?
周迪:不仅有,而且案例数量、攻击复杂程度和经济损失都在指数级上升。目前金额最大、也最能说明问题的是 2024 年香港那起案件——一家跨国公司员工参加了“首席财务官”发起的视频会议,屏幕上所有参会者都是 AI 生成的,声音、表情、闲聊互动跟真人一模一样,结果员工被骗转出 2 亿港元。这在我看就是典型的“超级社会工程学”攻击,视觉听觉双重确认反而成了心理陷阱。
北美华人社区频发的虚拟绑架案也是铁证。家长接到孩子被绑的 AI 视频,实际上孩子根本没被绑,只是社交媒体的素材被换脸换声。黑产论坛上,用 AI 生成动态视频绕过加密货币交易所 KYC 认证已经是一条成熟产业链。商业间谍冒充猎头发伪造视频会议,套取公司机密;政治层面,五角大楼爆炸假图一度让美股跳水,美国大选也出现了伪造候选人号召不投票的广告。这些案例足以证明,类似 Seedance 2.0 的技术早就从实验室进入了犯罪工具箱。
问:当前基于人脸识别、活体检测的安防系统,在面对高仿真 AI 视频时存在哪些技术盲区?
周迪:我认为盲区主要集中在六个方面。
第一,传统检测依赖的摩尔纹、屏幕边框这些“屏幕回放”特征,在数字信号直接注入或高分辨率播放下完全消失,系统连屏幕边缘都找不着。
第二,AI 已经学会模拟人眼光学反射和皮肤透光感,以前靠角膜反光点形状、皮肤质感判断真假,现在这条路基本堵死了。
第三,生成视频的帧率、运动模糊可以和真实摄像头完全一致,频域、时域特征趋同,老方法直接失效。
第四,2D 算法靠阴影、遮挡估算深度,AI 能完美渲染这些视觉线索,让系统误以为平面有立体深度——它骗的不是硬件,是算法。
第五,最新的生成模型甚至能模拟心跳引起的肤色微变,虽然还做不到完美,但骗过商用 rPPG 检测已经足够了。
第六,绝大多数摄像头是被动的,只会录像不会交互,而 AI 视频是单向生成的,只要系统不发随机指令、不主动打光,它就永远没有破绽。所以我的结论是:用图像算法去解决物理真实性问题,硬件不升级,盲区就永远堵不上。
问:单一模态(如仅靠视觉)的身份验证是否已不再可靠?多模态融合(如声纹+人脸+行为)是否是必然方向?
周迪:是的,单一视觉模态在我看已经靠不住了。本质上是“模式匹配”被“像素伪造”正面硬刚——生成器可以通过对抗训练,让假脸的像素特征无限逼近真脸,直到骗过验证器。而且造假成本越来越低,防御成本却指数级上升,这场仗防御方天然被动。
多模态融合我认为是必然出路,也是唯一的生存之道。核心逻辑就是增加攻击难度:视觉加声纹可以做唇语同步校验,口型和声音对不上立刻露馅;生理信号如 rPPG 检测心跳,这是真实生理过程,AI 很难实时模拟出混沌特征;硬件模态如 3D 结构光、红外是物理降维打击,2D 屏幕伪造过不了深度和光谱检测。多模态验证的本质,是从“你长得像”变成“一系列逻辑链条同时成立”——长得像他、声音像他、心跳对得上、瞳孔有反应、唇形和声音同步。这些条件同时成立的概率,在数学上排除了伪造的可能。所以未来高安全场景,单一视觉就等于没有安全,这不是选择,是生存问题。
问:传统活体检测(眨眼、转头等)是否还能有效抵御新一代 AI 视频?是否有更鲁棒的动态行为或生理信号可作为判别依据?
周迪:传统眨眼、转头这类配合式动作,面对 Seedance 2.0 我认为基本失效了——生成成本极低,效果足以骗过绝大多数基于图像特征的检测系统。攻击者要的只是一段符合指令的动态视频,而这类视频现在可以批量生产。
更鲁棒的判据,我认为必须往“非受控信号”走。比如 rPPG 检测心跳引起的肤色微变,这是真实的生理节律,AI 很难实时模拟出那种不规则的混沌特征。还有无意识的微表情、注视点的自然漂移,以及系统主动发起的环境挑战——突然变光看瞳孔是否收缩、突然发声看视线是否转移。这些观察的不是“用户做了什么”,而是“用户控制不了不做什么”。这才是新一代活体检测的真正方向。
问:目前有哪些前沿技术可用于检测 AI 生成视频?它们在实时监控场景中的可行性如何?
周迪:前沿技术主要有几类:频域时序分析,找生成模型遗留的物理规律破绽;rPPG 生理信号检测;数字水印与元数据验证;以及训练专用的对抗检测网络。但说实话,放到实时监控场景,落地难度非常大。
核心瓶颈我认为有三条:一是算力,边缘设备跑不起大模型;二是延迟,云端来回几百毫秒,攻击已经完成;三是泛化,生成模型一迭代,旧检测器立刻失灵。目前实时监控基本不具备大规模部署条件,这些技术更多还是用在事后取证和司法鉴定。我自己的判断是,未来很长一段时间,实时场景还得靠硬件升级和交互挑战来顶,纯算法的被动检测很难追得上生成技术的迭代速度。
标签 心智观察所-
本文仅代表作者个人观点。
- 责任编辑: 朱敏洁 
-
-
一台晚会能办成什么样,取决于机器人
2026-02-12 09:00 心智观察所 -
打破日本垄断,我国攻克ECMO“人工肺泡”核心材料
2026-02-11 15:57 科技前沿 -
梦舟飞船完成关键“考试”,哪些技术突破了?
2026-02-11 15:18 航空航天 -
视频:长征十号系列火箭低空飞行试验箭完美溅落
2026-02-11 15:17 航空航天 -
-
10日0时起至12日24时,南海部分海域进行火箭海上回收作业
2026-02-09 14:09 航空航天 -
我国科研机构主导的大模型成果首次登上Nature
2026-02-07 09:02 心智观察所 -
马斯克究竟想干什么?
2026-02-06 08:00 心智观察所 -
“没想到我的课堂作业成了中美AI‘决战’的竞赛场”
2026-02-05 20:45 问诊2026中国经济 -
春节里一场不得不打、且必须此刻打响的战役
2026-02-05 08:24 心智观察所 -
“太空蝴蝶”破蛹展翅,太空生命生存试验翻新篇
2026-02-04 20:22 航空航天 -
特斯拉把电池制造的“圣杯”搞定了
2026-02-03 08:02 心智观察所 -
北京小孩哥野外发现,填补研究空白
2026-01-31 17:07 -
阿尔及利亚遥感三号卫星发射成功,习近平同阿总统互致贺电
2026-01-31 14:59 -
当特朗普质疑中国风电时,我们在谈论什么
2026-01-31 09:00 心智观察所 -
在宇宙布下“监听系统”!我国新增量子神器
2026-01-30 12:05 -
-
一人公司与造物主2.0:赴拉斯维加斯参加CES展会后的感想
2026-01-29 14:25 -
离体脑细胞学会打游戏,智能从何而来?
2026-01-29 08:21 心智观察所
相关推荐 -
“鲁比奥没戳欧洲眼睛,但破镜难圆” 评论 2
“美国人关心谁造的车?他们天天买中国货” 评论 35
五角大楼高官演上了:没想“扼杀”中国 评论 116
杠上了!“谁说欧洲文明要完?加拿大还想加入呢” 评论 53
美国可以靠AI打破中国稀土主导权?“极不现实” 评论 104最新闻 Hot

观察员
















上海市互联网违法与不良信息举报中心