观察员
-
曾剑平：AI进入金融场景后，风险治理必须理解数据、模型与智能体边界
近日，复旦大学经济学院举行“南土国际金融政策圆桌会第12期”暨“迎接AI时代系列”第1期。本次会议以“AI时代的金融人才核心竞争力：基于金融实务工作的思考”为主题，邀请业界专家和学界教师共同讨论人工智能对金融行业和人才培养的影响。复旦大学计算与智能创新学院副教授曾剑平从人工智能安全角度指出，AI进入金融场景后，不只是效率工具，也会带来新的风险结构。未来金融人才不仅要理解传统金融风险，也要具备基本的AI安全素养。
曾剑平表示，自己长期关注人工智能安全问题。随着AI越来越多地进入金融行业，AI系统自身的数据、算法、模型和应用风险，正在与传统金融风险发生叠加。过去金融行业主要讨论信用风险、市场风险、操作风险等问题；而在AI深度嵌入金融业务之后，风险来源进一步扩展到数据层、算法层、模型层和应用层。金融行业高度依赖数据、模型和自动化流程，一旦AI系统被攻击、误导或错误调用，其影响可能通过金融业务链条传导，形成更隐蔽、更复杂的风险。
在数据层面，曾剑平指出，AI模型训练依赖大量数据，其中相当一部分来自互联网和公开信息。数据一旦被采集、清洗、整合并进入模型训练过程，后续删除和追溯并不容易。这意味着数据投毒、隐私泄露和数据关联风险都可能被放大。在金融场景中，信用评估、欺诈检测、客户画像和风险识别等任务都高度依赖数据，如果训练数据被污染或包含偏见，模型输出就可能带来错误判断，甚至对不同客户和企业形成不公平结果。
在模型层面，曾剑平强调，模型幻觉在短期内难以被彻底消除。从技术原理看，大语言模型本质上是一种概率模型，它根据既有数据和上下文生成高概率答案，但高概率并不等于事实正确。输入数据如果存在偏斜、缺失或被操纵，输出结果就可能出现偏差。对金融行业而言，这种偏差并非一般性的文本错误，而可能影响投研判断、风险评估、交易执行和客户服务。因此，金融从业者不能因为AI能够给出答案，就削弱基础知识训练和独立判断能力。
曾剑平特别提醒，当前社会上存在一种误解，即认为大模型出现后，传统知识学习变得不再重要。他认为，这种看法并不成立。没有知识基础，就难以形成真正的判断力；没有判断力，就无法识别AI回答的大方向是否正确。对学生而言，AI不应成为逃避基础训练的理由。相反，越是在AI广泛应用的环境中，越需要通过金融学、统计学、计算机和数据安全等基础知识，建立判断AI结果是否可信的能力。
谈及AI安全风险与金融风险的关系，曾剑平指出，AI带来的偏见、隐私、责任归属和系统依赖等问题，可能与传统金融风险相互叠加。例如，AI模型在贷款、投资、风险预警等场景中的偏见，可能通过信息不对称影响信用风险传导；同一模型或同一接口被广泛使用，也可能带来集中暴露和连锁反应。随着AI模型在更多业务环节铺开，每一个模型、接口和应用节点都可能成为潜在风险入口。因此，对AI风险的管控不应等到问题大规模暴露后才开始，而应在应用扩张早期就纳入治理框架。
在应用层面，曾剑平还以智能体调用网页数据的实验为例说明，当前AI Agent并非在所有场景中都可靠。对于一些看似简单的任务，如从特定网站抓取实时行情信息，智能体可能因为网页结构、接口标准和调用路径不统一而失败，甚至消耗大量Token却无法得到有效结果。这说明，AI智能体的能力受制于数据接口、标准化程度、预算条件和容错空间。可重复、标准化、预算充足的任务，可以逐步交给智能体；但对预算敏感、容错率低、需要精确执行的任务，仍然需要人进行结构化设计、过程监督和最终把关。
- 责任编辑: 蔺渊
-
“如果未来有某位首席经济学家的专属skill，大家会不会用？”
2026-05-21 11:17 大咖观点 -
微信泄密、33亿趋同交易、获利2473万，“史上最大老鼠仓”案宣判
2026-05-21 11:01 保险 -
吕天贵归队，中信银行“行长空缺”五个月后画上句号
2026-05-21 10:40 银行 -
“孤旅者”的两难：百信银行规模扩张背后的盈利之困
2026-05-21 09:43 银行 -
科创50指数涨超3%，半导体大涨，兆易创新、盛景微涨停
2026-05-20 16:47 股市 -
南方基金王珂：AI时代，金融人才要具备构建“AI团队”的能力
2026-05-20 16:24 金融观察 -
备忘录签署！支持中企在新交所IPO
2026-05-20 15:43 银行 -
复旦南土国际金融政策圆桌会讨论金融AI，复旦、南方基金等专家与会
2026-05-20 15:00 复旦国际金融政策圆桌会 -
长江存储IPO，为什么找中信证券、中信建投双辅导？
2026-05-20 14:16 市场资讯 -
“这下欧洲更怕了：美军要彻底抽身？”
2026-05-20 11:22 应对特朗普冲击波 -
日韩股市继续跳水，韩股4天内跌近1000点，日股跌破6万点
2026-05-20 09:41 市场资讯 -
LPR，连续第12个月维持不变
2026-05-20 09:29 市场资讯 -
净资产缩水超16%，华泰人寿拟增资9.7亿，华润、茅台持股进一步稀释
2026-05-18 20:21 保险 -
“中金+东兴+信达”，万亿级券商新进展
2026-05-18 20:04 证券 -
A股三大指数小幅收跌，存储芯片板块走强
2026-05-18 15:53 股市 -
24天股价涨15倍，光模块“卖铲人”冲击“股王”茅台
2026-05-18 11:51 市场资讯 -
韩股指在熔断后V字拉升
2026-05-18 11:14 市场资讯 -
证监会副主席表态，北交所大信号！
2026-05-18 10:29 市场资讯 -
硬核监管+烟火宣教！2026全国5・15投保宣传热潮席卷各地
2026-05-17 09:41 投资者保护 -
中国证监会举办2026年“5·15全国投资者保护宣传日”活动
2026-05-15 23:17
相关推荐 -
-
澳大利亚叫停与华合作，被批唯美国马首是瞻 评论 19
美国明说了：不希望苹果采购中国存储芯片 评论 87
“亚洲盟友心慌：美国都成这样了，还能靠多久？” 评论 98
“美国年轻人更习惯于一个重新崛起的中国” 评论 89
中企只差243辆，日媒发愁：这块堡垒也守不住了？ 评论 85最新闻 Hot-
澳大利亚叫停与华合作，被批唯美国马首是瞻
-
执政满五年，阿富汗塔利班：希望与世界和平共处
-
纽约市长秀中文：演出现场见
-
“罕见，普京乘军舰而非飞机登岛”
-
相关人士：所谓电影《牛来》官方账号系假冒
-
美国明说了：不希望苹果采购中国存储芯片
-
首次披露：黄仁勋投了马斯克
-
极其恶劣！自民党“四驾马车”集体拜鬼
-
时隔16年，韩国重启亲日反民族行为者财产追缴
-
特朗普嫌弃，美国航母要改回二战风格
-
“亚洲盟友心慌：美国都成这样了，还能靠多久？”
-
伊朗求助红十字：我们飞行员还活着，在卡塔尔
-
画风诡异！外媒也关注起《牛来》
-
打破传统，民主党敲定2028初选日程
-
英国大范围干旱，2700万人限水，水务公司要涨水费
-
“美国年轻人更习惯于一个重新崛起的中国”
-
Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001
网登网视备（沪）02020000041-1号 互联网宗教信息服务许可证：沪（2024）0000009
广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571
沪公网安备 31010502000027号
中国互联网举报中心
上海市互联网违法与不良信息举报中心
