观察员
-
曾剑平：AI进入金融场景后，风险治理必须理解数据、模型与智能体边界
近日，复旦大学经济学院举行“南土国际金融政策圆桌会第12期”暨“迎接AI时代系列”第1期。本次会议以“AI时代的金融人才核心竞争力：基于金融实务工作的思考”为主题，邀请业界专家和学界教师共同讨论人工智能对金融行业和人才培养的影响。复旦大学计算与智能创新学院副教授曾剑平从人工智能安全角度指出，AI进入金融场景后，不只是效率工具，也会带来新的风险结构。未来金融人才不仅要理解传统金融风险，也要具备基本的AI安全素养。
曾剑平表示，自己长期关注人工智能安全问题。随着AI越来越多地进入金融行业，AI系统自身的数据、算法、模型和应用风险，正在与传统金融风险发生叠加。过去金融行业主要讨论信用风险、市场风险、操作风险等问题；而在AI深度嵌入金融业务之后，风险来源进一步扩展到数据层、算法层、模型层和应用层。金融行业高度依赖数据、模型和自动化流程，一旦AI系统被攻击、误导或错误调用，其影响可能通过金融业务链条传导，形成更隐蔽、更复杂的风险。
在数据层面，曾剑平指出，AI模型训练依赖大量数据，其中相当一部分来自互联网和公开信息。数据一旦被采集、清洗、整合并进入模型训练过程，后续删除和追溯并不容易。这意味着数据投毒、隐私泄露和数据关联风险都可能被放大。在金融场景中，信用评估、欺诈检测、客户画像和风险识别等任务都高度依赖数据，如果训练数据被污染或包含偏见，模型输出就可能带来错误判断，甚至对不同客户和企业形成不公平结果。
在模型层面，曾剑平强调，模型幻觉在短期内难以被彻底消除。从技术原理看，大语言模型本质上是一种概率模型，它根据既有数据和上下文生成高概率答案，但高概率并不等于事实正确。输入数据如果存在偏斜、缺失或被操纵，输出结果就可能出现偏差。对金融行业而言，这种偏差并非一般性的文本错误，而可能影响投研判断、风险评估、交易执行和客户服务。因此，金融从业者不能因为AI能够给出答案，就削弱基础知识训练和独立判断能力。
曾剑平特别提醒，当前社会上存在一种误解，即认为大模型出现后，传统知识学习变得不再重要。他认为，这种看法并不成立。没有知识基础，就难以形成真正的判断力；没有判断力，就无法识别AI回答的大方向是否正确。对学生而言，AI不应成为逃避基础训练的理由。相反，越是在AI广泛应用的环境中，越需要通过金融学、统计学、计算机和数据安全等基础知识，建立判断AI结果是否可信的能力。
谈及AI安全风险与金融风险的关系，曾剑平指出，AI带来的偏见、隐私、责任归属和系统依赖等问题，可能与传统金融风险相互叠加。例如，AI模型在贷款、投资、风险预警等场景中的偏见，可能通过信息不对称影响信用风险传导；同一模型或同一接口被广泛使用，也可能带来集中暴露和连锁反应。随着AI模型在更多业务环节铺开，每一个模型、接口和应用节点都可能成为潜在风险入口。因此，对AI风险的管控不应等到问题大规模暴露后才开始，而应在应用扩张早期就纳入治理框架。
在应用层面，曾剑平还以智能体调用网页数据的实验为例说明，当前AI Agent并非在所有场景中都可靠。对于一些看似简单的任务，如从特定网站抓取实时行情信息，智能体可能因为网页结构、接口标准和调用路径不统一而失败，甚至消耗大量Token却无法得到有效结果。这说明，AI智能体的能力受制于数据接口、标准化程度、预算条件和容错空间。可重复、标准化、预算充足的任务，可以逐步交给智能体；但对预算敏感、容错率低、需要精确执行的任务，仍然需要人进行结构化设计、过程监督和最终把关。
- 责任编辑: 蔺渊
-
“如果未来有某位首席经济学家的专属skill，大家会不会用？”
2026-05-21 11:17 大咖观点 -
微信泄密、33亿趋同交易、获利2473万，“史上最大老鼠仓”案宣判
2026-05-21 11:01 保险 -
吕天贵归队，中信银行“行长空缺”五个月后画上句号
2026-05-21 10:40 银行 -
“孤旅者”的两难：百信银行规模扩张背后的盈利之困
2026-05-21 09:43 银行 -
科创50指数涨超3%，半导体大涨，兆易创新、盛景微涨停
2026-05-20 16:47 股市 -
南方基金王珂：AI时代，金融人才要具备构建“AI团队”的能力
2026-05-20 16:24 金融观察 -
备忘录签署！支持中企在新交所IPO
2026-05-20 15:43 银行 -
复旦南土国际金融政策圆桌会讨论金融AI，复旦、南方基金等专家与会
2026-05-20 15:00 复旦国际金融政策圆桌会 -
长江存储IPO，为什么找中信证券、中信建投双辅导？
2026-05-20 14:16 市场资讯 -
“这下欧洲更怕了：美军要彻底抽身？”
2026-05-20 11:22 应对特朗普冲击波 -
日韩股市继续跳水，韩股4天内跌近1000点，日股跌破6万点
2026-05-20 09:41 市场资讯 -
LPR，连续第12个月维持不变
2026-05-20 09:29 市场资讯 -
净资产缩水超16%，华泰人寿拟增资9.7亿，华润、茅台持股进一步稀释
2026-05-18 20:21 保险 -
“中金+东兴+信达”，万亿级券商新进展
2026-05-18 20:04 证券 -
A股三大指数小幅收跌，存储芯片板块走强
2026-05-18 15:53 股市 -
24天股价涨15倍，光模块“卖铲人”冲击“股王”茅台
2026-05-18 11:51 市场资讯 -
韩股指在熔断后V字拉升
2026-05-18 11:14 市场资讯 -
证监会副主席表态，北交所大信号！
2026-05-18 10:29 市场资讯 -
硬核监管+烟火宣教！2026全国5・15投保宣传热潮席卷各地
2026-05-17 09:41 投资者保护 -
中国证监会举办2026年“5·15全国投资者保护宣传日”活动
2026-05-15 23:17
相关推荐 -
-
向美递投名状！“台当局拟将限制扩至所有大陆企业” 评论 14
比利时首相装上了：好怕呀，不敢点名中国 评论 114
“中美稀土之争的焦点”，西方闻着味道都来了 评论 88
5月出口全面超预期，“中国顶住了冲击” 评论 91
“美国股东赚饱但工人没受益”，居然怪中国？ 评论 116最新闻 Hot-
向美递投名状！“台当局拟将限制扩至所有大陆企业”
-
又碰瓷！日本新版国防白皮书将中国列为“最严重关切”
-
比利时首相装上了：好怕呀，不敢点名中国
-
2人在冰川无人区自驾被困，当地花5天4夜成功救援：将作出行政处罚
-
伊朗革命卫队称已反击
-
公布个人手机号的原市委书记主动投案
-
特朗普报复伊朗
-
“中美稀土之争的焦点”，西方闻着味道都来了
-
“我们不是美国殖民地！”特朗普那套行不通了
-
波兰防长急否认：谣言！这些武器不会给
-
空客在德国“摇人”：造六代机！
-
保加利亚要停止对乌供武，“他们需要的是人”
-
胡彦斌：如果音乐本身立不住，那玩梗会“翻车”的
-
美军“阿帕奇”直升机坠毁，特朗普发声
-
印度14.5亿人口，也生不动了
-
5月出口全面超预期，“中国顶住了冲击”
-
Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001
网登网视备（沪）02020000041-1号 互联网宗教信息服务许可证：沪（2024）0000009
广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571
沪公网安备 31010502000027号
中国互联网举报中心
上海市互联网违法与不良信息举报中心
