观察员
-
国安部：违规使用开源AI，敏感资料被境外IP非法访问下载
据国家安全部微信公众号12月26日消息，当前，AI大模型加速赋能千行百业，推动人们生活日新月异，这位能干又贴心的“数字伙伴”正加速融入我们日常生活。然而每一次技术跃迁必然伴随着新的挑战，当AI的触角延伸越广、嵌入越深，随之而来也暴露出数据隐私、算法偏见等潜在风险，亟需我们构筑安全防线，助推这场深刻的智能变革，安全赋能美好未来。
高速发展背后的“暗礁”
数据隐私与安全边界模糊。个别单位因直接使用开源框架建立联网大模型，导致攻击者未经授权即可自由访问内部网络，从而引发数据泄露和安全风险。据公开案例显示，某单位工作人员在处理内部文件时，违规使用开源AI工具，由于电脑系统默认开启公网访问且未设密码，导致敏感资料被境外IP非法访问和下载。
技术滥用与虚假信息产生。利用AI的深度学习算法进行自动化的数据处理，实现图片、音频及视频的智能模拟和伪造，这种技术被称为深度伪造（Deepfake）。一旦该技术被滥用或恶意使用，将给个人合法权益、社会稳定甚至国家安全带来诸多风险和挑战。国家安全机关工作发现，某境外反华敌对势力通过深度伪造技术生成虚假视频，并企图向境内传播，以误导舆论、制造恐慌，对我国家安全构成威胁。
算法偏见与决策“黑箱”。AI的判断源于其所学习的资料，若训练数据本身存在社会偏见或代表性不足等问题，大模型便可能放大歧视。测试显示，某些AI会系统性偏向西方视角。当研究人员用中英文向某同一个AI提问历史问题时，发现英文回复会刻意回避、淡化某些史实，甚至会给出包含错误历史信息的内容，引发重大歧误，而中文回复则相对客观。
安全守则：给“数字伙伴”的三条守则
守则一：划定“活动范围”。做到“权限最小化”，联网AI不处理涉密数据、语音AI不收集环境语音、智能助手不保存支付密码，关闭“数据共享”“云空间”等不必要的访问权限。
守则二：检查“数字足迹”。养成定期清理AI聊天记录、修改AI工具密码、更新防病毒软件、查看账号登录设备等习惯。同时避免随意下载使用来源不明的大模型程序，对提供身份证、银行账户或其他敏感信息的要求保持警惕。
守则三：优化“人机协作”。向AI提问时，在提示词中明确禁止AI过度推演，并要求AI显示来源或思考过程，对重要信息进行跨平台验证，合理辨别AI生成结果，特别是涉及政治、历史、意识形态等话题时，要具备独立思考意识，辩证看待AI的回答，避免陷入“AI幻觉”。
国家安全机关提示
安全是发展的前提，发展是安全的保障。只有懂科技、安全使用科技，才能让AI大模型这一新兴科技成为推动社会进步的正能量。广大用户应当提高安全意识，审慎授权大模型软件权限。如发现AI大模型存在窃取个人信息，向境外传输敏感数据等危害网络安全的问题线索，可通过12339国家安全机关举报受理电话、网络举报平台（www.12339.gov.cn）、国家安全部微信公众号举报受理渠道或者直接向当地国家安全机关进行举报。
- 责任编辑: 蔺渊
-
全球首套！攻克多项关键技术
2025-12-26 07:17 -
广东江门一施工栈桥发生汽车坠河事件，一家5口死亡
2025-12-25 23:07 安全生产 -
给农民评职称，大家理解错了？
2025-12-25 22:20 聚焦三农 -
福建海警位金门附近海域依法开展常态执法巡查
2025-12-25 20:53 两岸关系 -
专访青年导演王佳呈：以现实为刃，用艺术棱镜折射创作初心
2025-12-25 19:10 两岸关系 -
市场监管总局回应“南极磷虾油”事件
2025-12-25 18:38 -
99%含金量“金兽”掉色？南京博物院回应
2025-12-25 18:38 -
绍兴地铁深夜撞保洁员致3死1伤，调查报告公布
2025-12-25 18:13 安全生产 -
上海城投（集团）有限公司原副总裁胡欣受贿6743万余元，被判14年
2025-12-25 18:13 廉政风暴 -
国防部：福建舰正常训练，还会继续组织
2025-12-25 17:50 中国航母 -
将涉密材料拍照发群被处分，国安部提醒
2025-12-25 17:14 国家安全 -
国防部：解放军全时待战、随时能战、战之必胜
2025-12-25 16:01 两岸关系 -
解放军军机今年绕台达到近3600架次，创历年新高？国防部回应
2025-12-25 15:51 两岸关系 -
“我委认真分析研判，放假9天并减少调休，回应了社会期待”
2025-12-25 15:12 -
张军：中国居民消费支出被低估了？
2025-12-25 15:01 思路打开 -
硕博学位授予资格审核办法来了
2025-12-25 14:54 中西教育 -
王行环被撤销全国政协委员资格，曾任武汉雷神山医院院长
2025-12-25 14:54 -
不断压缩“近亲繁殖”问题空间，多地推动“人情岗”“世袭岗”整治
2025-12-25 14:27 廉政风暴 -
简文昇、陈顺进是谁？“宏泰58号”事件真相披露
2025-12-25 14:23 台湾 -
解码大国持久胜出之道：2025澄海报告聚焦组织化程度与国家兴衰
2025-12-25 13:49
相关推荐 -
-
法国财长急降调：对华“一刀切”不太行 评论 18
“就中国一个可靠选项，新总统却嚷嚷要亲美” 评论 87
特朗普又威胁加拿大：让我们吃中国剩饭，没门 评论 65
震惊！法政府报告呼吁：对中国搞个“广场协议” 评论 437最新闻 Hot-
法国财长急降调：对华“一刀切”不太行
-
又走了一个
-
靠金融机制阻止大陆攻台？“打肿脸充胖子，等于说不会出兵”
-
谷爱凌发声
-
美日“铁拳”军演明起举行，“规模为历年之最”
-
“时间对我们至关重要”，伊朗：希望尽快与美国达成核协议
-
“现在必须是觉醒时刻”！马克龙：美国会拿这个搞我们
-
进驻加沙的首批部队将来自印尼，预计几周内派出八千人
-
卫星图像：伊朗伊斯法罕核设施入口被土掩埋
-
“就中国一个可靠选项，新总统却嚷嚷要亲美”
-
“柬埔寨有责任将其遣送回中国，正与中美英保持合作”
-
在新加坡，中国去年投资超过美国
-
海外推特已夸爆，冯骥都吓一跳，“庆幸Seedance是中国的AI”
-
张建华被提起公诉
-
古巴燃油告急，加航已宣布停飞
-
“维密星探”骗局坐实？爱泼斯坦档案曝光“走秀试镜视频”
-
Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001
网登网视备（沪）02020000041-1号 互联网宗教信息服务许可证：沪（2024）0000009
广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571
沪公网安备 31010502000027号
中国互联网举报中心
上海市互联网违法与不良信息举报中心
