筑牢人工智能安全防火墙
来源:经济日报 发布时间:2025-02-06 18:08:08

今年春节期间,深度求索人工智能基础技术研究有限公司(DeepSeek)开发的生成式人工智能(AI)服务,吸睛引粉,热议不断。不过,也有报道指出,针对DeepSeek线上服务的攻击烈度突然升级,其攻击指令暴增,由此产生的服务中断、数据泄露等网络安全风险不可忽视。如何通过必要的法律保障提供更安全的人工智能产业环境,值得探讨。

在人工智能产业发展过程中,个人信息安全、虚假网络信息内容生成、算法歧视等问题时有发生。针对此,有关部门出台《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等法律法规,完善优化人工智能应用的合法性问题。2023年7月份公布的《生成式人工智能服务管理暂行办法》明确提出,支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作;推动公共数据分类分级有序开放,扩展高质量的公共训练数据资源。这些具体举措,对于化解潜在技术安全风险具有重要意义。接下来,还应多角度施策,筑牢人工智能安全防火墙。

一方面,持续细化人工智能产品研发者、服务提供者以及用户的法律义务及其责任承担方式。从长远来看,难以控制的技术安全风险是限制科技创新的阻碍。原因在于,为了确保信息服务质量和功能稳定性,事前控制技术风险的经济效益远高于事后行政干预和矫正科技创新方向。而生成式人工智能服务和产品呈现出超市场预期的智能化水平,不仅是ChatGPT面世之初展现的高质量文本编辑功能,还表现为代码编写、视频制作等领域的高效生成。这种高度智能化特征使得网络信息内容治理实践面临挑战,一旦被应用于网络黑灰产领域,会对公民的人身安全和财产安全造成极大威胁。因此,应更加规范研发者和服务提供者的科技创新行为,借由事前安全风险评估、强制性算法备案等治理措施的法治化,引导产业的良性发展。

另一方面,借由保障型条款促成科技创新资源的高效分配,为经营主体营造公平公正的市场竞争环境。从技术创新环节来看,人工智能科技创新离不开算法、数据和算力三个要素,相应的法治保障体系也应当围绕其展开。因此,要基于基础科技创新、促进科技成果转化、人才培养等角度提升算法模型的自主创新能力;拓展训练数据获取方式的多元化,充分保障中小企业获取训练数据的平等发展权。建构算力资源供给机制,囊括算力网络建设、资源调度规划、服务交易等具体内容。

标签:

猜你喜欢

筑牢人工智能安全防火墙

今年春节期间,深度求索人工智能基础技术研究有限公司(DeepSeek)开发的生成式人工智能(AI)服务,吸...更多

2025-02-06 18:08:08

科技向善引领创新方向

党的二十届三中全会通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》提出,深化...更多

2025-02-06 18:05:07

为何要优化重大科技创新组织机制

在科技日新月异、一日千里的今天,人们越发认识到科技创新对经济社会发展的重要性,科技创新对发展...更多

2025-02-06 18:02:24

新国标引领电动自行车发展

在天津市武清区王庆坨镇的天津踏浪科技股份有限公司生产车间内,工人在流水线上装配电动自行车。新...更多

2025-02-06 17:59:55

认识把握未来产业发展新机遇

中央经济工作会议提出,培育未来产业。未来产业具有创新的活跃性、技术的先进性、产业发展的引领性...更多

2025-02-06 17:55:12

全球首台可扩展光量子计算机原型问世

加拿大Xanadu量子技术公司开发出全球首台可扩展光量子计算机原型。该公司在最新一期《自然》杂志上...更多

2025-02-06 17:52:57

智能手表贴在高铁车窗为何取不下来

春节假期结束,许多人乘坐高铁,告别家乡,返回工作的城市。近期,话题别把智能手表表盘贴在高铁车...更多

2025-02-06 17:50:56

2024年我国软件业务收入137276亿元

工业和信息化部近日发布2024年我国软件和信息技术服务业(以下简称软件业)运行情况。2024年,软件...更多

2025-02-06 17:16:34

八部门加强快递员、网约配送员服务管理

近日,中央社会工作部、中央网信办、公安部、人力资源和社会保障部、住房和城乡建设部、市场监管总...更多

2025-02-06 17:14:17

十八部门加强困境儿童个人信息保护

近期,民政部等十八部门印发《困境儿童个人信息保护工作办法》(以下简称《办法》),规范困境儿童...更多

2025-02-06 17:11:42