谨防金融大模型应用风险
来源:经济日报 发布时间:2024-11-20 19:06:09

 当前,人工智能大模型正在逐步影响各行各业,金融领域也不例外。

  根据英伟达发布的针对近400家金融机构的调研结果,43%的金融机构已开始使用大模型。麦肯锡2024年的调研数据显示,金融行业从业者反馈“在工作中常规使用大模型”“在生活中常规使用大模型”和“在工作和生活中均常规使用大模型”的数量占比已达到48%。据麦肯锡测算,大模型有望给全球金融行业带来每年2500亿美元至4100亿美元的增量价值。这些数据无疑为大模型在金融领域的进一步应用描绘了光明的前景。

  然而,随着大模型的广泛应用,一些新风险也逐渐显露出来,一旦应对不当,可能对金融行业构成严峻的挑战。

  首先,大模型的进一步推广可能会加剧金融行业的“两极分化”。由于技术投入、业务禀赋和人力资源等方面的差异,一些头部金融机构在大模型展现的能力上开始显现出明显优势。相比之下,中小机构受限于资金预算约束、相对有限的业务规模和专业人才资源,与头部机构之间的差距将被逐渐拉大,呈现出“强者愈强,弱者愈弱”的趋势。从行业整体来看,金融行业原本就具有信息数据密集、人才智力密集等特点,大模型的推广应用可能导致金融行业资源进一步集中。

  其次,目前大模型本身存在的缺陷也可能给金融系统带来安全风险。大模型仍存在专业能力有限、生成结果不可控、算法可解释性较差等问题,当前在合规性和适当性等方面仍缺乏保障。一旦训练数据不完备或质量较差,可能会生成低质量的错误内容,导致结果不可用,甚至误导金融机构和金融消费者的判断和决策。在模型可解释性方面,大模型的复杂程度较高,使得内容生成的结果和过程难以被清晰地解释,产生“黑箱”问题,导致金融机构难以在事前、事中、事后进行有效的风险溯源和管理。此外,考虑到大模型基于海量数据进行训练,若底层数据本身存在偏见和歧视,可能会导致大模型内容输出、决策生成方面存在偏见,进而导致金融服务存在歧视性定价等风险。

  最后,金融机构对少数大型科技公司提供的基座大模型的依赖可能形成新的风险点。考虑到基座大模型通常与部分大型科技公司云业务捆绑销售,这可能进一步加大金融机构对少数第三方的依赖,加大相关技术服务商对金融系统的潜在影响力。一旦服务商的运营出现问题或系统出现故障,将对金融系统的稳定造成严重影响。

  当前,大模型的深入应用对金融监管提出了更高要求,现实中如何既鼓励创新,又确保金融行业的健康稳定发展,已成为金融监管部门的重要议题。只有防患于未然,在深刻认识大模型的特点并妥善应对这些风险的基础上,才能推动金融大模型更好发挥作用,促进金融业高质量发展。

标签:

猜你喜欢

谨防金融大模型应用风险

 当前,人工智能大模型正在逐步影响各行各业,金融领域也不例外。  根据英伟达发布...更多

2024-11-20 19:06:09

AI玩梗视频,暗藏法律风险

 你再不起床,我就远程操控小米SU7撞你!最近,一款语音闹钟在社交媒体风靡,小米科技创始人雷...更多

2024-11-20 19:04:25

部分塑料可转化为多种实用产品

美国弗吉尼亚理工大学理工学院科学家研发出一项新技术,成功将部分塑料转化为肥皂、洗涤剂、润滑剂...更多

2024-11-20 19:03:03

四足机器人完成全程马拉松

据美国趣味工程网站18日报道,在近日于韩国庆尚北道举行的第22届尚州柿饼马拉松赛上,由韩国科学技...更多

2024-11-20 18:58:35

漏气危机加剧,国际空间站命运多舛

近年来,服役超期近10年的国际空间站可谓命运多舛。尽管预计要到2031年才正式结束使命,但目前,越...更多

2024-11-20 18:56:15

工信部发布《2024年5G工厂名录》400家工厂入选

在11月19日举行的2024中国5G+工业互联网大会上,工业和信息化部发布《2024年5G工厂名录》(以下简称...更多

2024-11-20 18:52:12

我竟然在“互联网之光”博览会看到了“飞碟”

在2024年世界互联网大会互联网之光博览会现场,室外展区展出的载人飞碟引人注目。更多

2024-11-20 18:50:18

人形机器人“CASBOT 01 ”亮相

11月12日,科研人员在位于北京的实验室调试人形机器人CASBOT 01。11月13日晚,人形机器人CASBOT 0...更多

2024-11-17 20:17:49

新华全媒+丨天舟八号将于近日择机发射 船箭组合

11月13日,天舟八号货运飞船与长征七号遥九运载火箭组合体垂直转运中。当日,天舟八号货运飞船与长...更多

2024-11-17 20:16:02

测量海洋盐度,这颗卫星如何“望闻问切”

11月14日,由中国航天科技集团五院抓总研制的我国首颗海洋盐度探测卫星成功发射,标志着我国在海洋...更多

2024-11-17 20:14:02