探索新路径 筑牢AI产业安全根基
来源:经济参考报 发布时间:2025-03-03 12:53:20

 近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

  不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

  这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

  有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

  比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

  今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

  对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

  更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

  业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。

标签:

猜你喜欢

探索新路径 筑牢AI产业安全根基

 近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。  不可否...更多

2025-03-03 12:53:20

不必过于焦虑被AI替代

 随着DeepSeek一夜爆红,人工智能正逐步渗透到生活工作的方方面面。最近,一张各职业被AI取代...更多

2025-03-03 12:51:36

以数智化推动物流业降本增效

 要加快推动物流数智化发展,使之成为培育物流领域新质生产力、有效降低全社会物流成本的重要...更多

2025-03-03 12:49:28

实数融合助力制造业转型升级

 工业和信息化部近日公布一批2024年实数融合典型案例名单,这是工信部面向实体经济和数字经济...更多

2025-03-03 12:46:07

直播电商与国补政策双向奔赴

 以旧换新,安徽是有国补的。安徽的宝宝买这款洗衣机只要下载云闪付,绑定银行卡实名认证就能...更多

2025-03-03 12:43:14

大模型既要“吃得饱”更要“吃得好”

前段时间,网络上流传着一些由大模型生成的异次元篇章。比如,有人让大模型续写《红楼梦》情节时,...更多

2025-03-03 12:42:01

当机器人照镜子,它看见了什么

 机器人照镜子能看见什么?答案是:它像人类照镜子练习舞蹈一样,通过镜子调整自己。  现在,科...更多

2025-03-03 12:38:26

大语言模型意识水平测评报告显示:DeepSeek-R1语

2月25日,记者从世界人工意识协会国际人工智能DIKWP测评标准委员会获悉,由该协会主导、全球10余个...更多

2025-03-03 12:35:25

推动健康数据互联互通

 我所提出的建议在国家有关政策制定中发挥了作用。日前,记者采访全国人大代表、中国科学院科...更多

2025-02-28 18:24:35

三峡电厂“机器人”智能守护大国重器

近日,三峡集团长江电力三峡电厂新开发的大坝清扫机器人投入使用,三峡电厂机器人编队已达8种。这支...更多

2025-02-28 18:23:14