大模型既要“吃得饱”更要“吃得好”
来源:科技日报 发布时间:2025-03-03 12:42:01

前段时间,网络上流传着一些由大模型生成的“异次元篇章”。比如,有人让大模型续写《红楼梦》情节时,竟得出一幕“贾宝玉倒拔垂杨柳”的奇景,令人啼笑皆非。之所以会出现这种“混搭”和“幻觉”,是因为大模型不仅学习了原著,还“广纳博采”了不少错误信息。

这些人工智能(AI)生成的“胡言乱语”虽是网友们茶余饭后的笑谈,但提醒我们要清醒认识到其背后折射出的问题:数据质量是大模型应用成败的关键。以个性化推荐AI系统为例,一些企业在开发过程中,虽然收集了大量的用户行为数据,但数据中充斥着错误的标注、重复的数据以及相互矛盾的信息,数据的量增加了,但系统推荐的准确性并没有显著提升。《自然》杂志(Nature)刊登的一篇有关大模型可靠性研究的文章指出,一个西班牙研究团队发现,包括OpenAI公司的GPT在内的几个大模型升级后,虽然参数量更大了,误答情况却更严重了。因此,大模型长得壮不壮,不仅取决于“食量”(即数据的数量),更在于食物的“质量”(即数据的质量)——吃得饱并不等同于吃得好。

数据是大模型的基石,在数据质量不高、可靠性缺失的情况下,一味追求大模型参数量的增加,不仅无法提升模型性能,反而会放大偏差和谬误,产生更多不可信数据。如此一来,势必造成计算与存储资源的浪费,增加开发和维护成本,降低用户信任度。更为严重的是,这种“大模型幻觉”和“灾难性遗忘”现象如果发生在精确性要求极高的工业生产领域中,还可能引发不可预测的风险和隐患。以油气勘探为例,基于大模型给出的错误预测进行开采可能导致数亿元的资金损失,并对自然环境造成不可逆转的破坏。

提升大模型性能,关键是处理好数据“质”和“量”的关系,构建大规模、高质量的数据集。应建立完善的数据收集、清洗、验证和存储机制,加强对数据质量的监控和评估,确保数据的准确性、完整性和一致性。此外,还应注重跨领域合作,引入数据科学家、AI算法工程师等多方力量,开展大模型算法合作、制定数据共享和隐私安全保密协议,推动大模型产学研用生态建设。

如今,大模型的发展已迈入多模态融合阶段。通过加强数据治理,优化人工智能学习、训练和验证的“基础食材”,端上大规模、高质量、多模态数据集的“丰盛大餐”,必将助力大模型能力的提升,让人工智能更好地赋能千行百业、造福人类社会。

标签:

猜你喜欢

大模型既要“吃得饱”更要“吃得好”

前段时间,网络上流传着一些由大模型生成的异次元篇章。比如,有人让大模型续写《红楼梦》情节时,...更多

2025-03-03 12:42:01

当机器人照镜子,它看见了什么

 机器人照镜子能看见什么?答案是:它像人类照镜子练习舞蹈一样,通过镜子调整自己。  现在,科...更多

2025-03-03 12:38:26

大语言模型意识水平测评报告显示:DeepSeek-R1语

2月25日,记者从世界人工意识协会国际人工智能DIKWP测评标准委员会获悉,由该协会主导、全球10余个...更多

2025-03-03 12:35:25

推动健康数据互联互通

 我所提出的建议在国家有关政策制定中发挥了作用。日前,记者采访全国人大代表、中国科学院科...更多

2025-02-28 18:24:35

三峡电厂“机器人”智能守护大国重器

近日,三峡集团长江电力三峡电厂新开发的大坝清扫机器人投入使用,三峡电厂机器人编队已达8种。这支...更多

2025-02-28 18:23:14

24小时智能助教、科研“特助”……“AI+高校”是

新华社北京2月26日电(记者魏梦佳、赵旭)为学生量身定制学业规划、24小时解答疑难问题,为研究人员...更多

2025-02-28 18:20:26

有人才有未来

 新华网联合科锐国际发起有人才有未来特别企划,全面展现央国企、顶尖科研院所及行业标杆民企...更多

2025-02-28 18:19:11

中国经济面面观|聚焦中国AI大模型之二:人人关注

近期,国产AI大模型的显著进步引发全球关注。微观层面,我们可以向大模型提问获取答案或者让它撰写...更多

2025-02-28 18:17:03

秀我中国|大模型计算慢?北京这个“未来AI工厂”

坐落在北京市朝阳区酒仙桥的E级智算中心——北京数字经济算力中心,近日宣布基础设施落成。这座定位...更多

2025-02-28 18:15:14

我国牵头制定世界首个养老机器人国际标准正式发布

 近日,国际电工委员会(IEC)正式发布由我国牵头制定的养老机器人国际标准。这项标准依据老年...更多

2025-02-28 18:13:46