院士领衔，业界共论“数”“智”未来

“AI算法模型存在‘三不可’的基因缺陷,即不可解释性、不可判识性以及不可推论性。”在近日举行的2024 绿盟科技TechWorld智慧安全大会上,中国工程院邬江兴院士分享人工智能安全问题剖析与内生安全新范式领域的思考。

邬江兴谈到,以深度学习为核心的人工智能技术是一把双刃剑,其作为赋能技术有着极其丰富的应用空间,更带来了前所未有的安全挑战。

邬江兴从AI系统安全问题出发,分享AI运行环境内生安全问题解决之道。他介绍,整个AI安全可以分为内生安全问题和非内生安全问题,内生又分为个性问题和共性问题,当下,网络内生安全问题正在全面挑战当今世界生态系统底层驱动技术。网络内生安全范式应当是AI可信应用系统理论发展方向,智能时代需要正确的理论方向,以确保AI技术的健康发展。

绿盟科技集团董事长、总裁胡忠华表示,今年是绿盟科技智慧安全大会举办的第十二个年头,今年的大会以“无界·数织未来AI同行”为主题,围绕“数”“智”两大关键词,共同探讨数智时代新思路。

“人工智能已经成为网络空间安全发展的关键变量。”中国科学院院士冯登国谈到,当前,人工智能技术已经从较为单一的算法发展阶段,跨越到了软件、硬件与应用场景相结合的全方位、一体化的发展阶段,AI算法的更新迭代,使得传统安全分析技术无法适应人工智能领域出现的新算法和新模型。

对于当下国内外人工智能安全战略部署,冯登国表示,应对网络空间安全形势变化,需要更坚实、富有弹性的网络空间安全保障体系。从政策法规制定、前沿技术探索和创新能力提升三个维度思考应对之策。

“数据流通从现在到未来有三个发展趋势:从静态分类到动态分级、从简单的确权到复杂确权、从单一密态到多密态的融合。”教育部信息技术新工科联盟网络空间安全工委会主任、杭州市人工智能学会副理事长胡瑞敏谈到,在数据被列为第五大生产要素的今天,应对数据供不出、流不动、安全保障难等挑战,亟需构建一个面向数据要素化的数据生命周期安全防护体系。

“在提供传统安全产品及安全服务的基础上,逐步向安全运营进行转化,为企业级用户提供小时级的闭环安全保障。”绿盟科技集团首席技术官叶晓虎介绍,结合应用环境变化,公司提出一系列智慧安全相关要素。近两年,推出AI大模型应用、持续威胁暴露面管理(CTEM)、高级威胁情报、云原生安全、数据安全、靶场、无人机等多个领域解决方案及实践成果。

“工业数据安全永远在路上。”国家工业信息安全发展研究中心首席专家、数据安全所所长李俊认为,随着新一代信息技术与制造业深度融合,工业企业数字化、网络化、智能化加速推进,工业数据载体漏洞和后门、非受控运维、数据暴露面等数据安全风险日益突出。在此形势下,行业主管部门已构建工信领域数据安全“1+5”政策体系,加快数据安全监管技术能力建设与实践落地,切实指导工业企业提升数据安全管理和防护水平。

“大模型应用场景出现了爆发式增长,大模型还没有走到尽头。”北京智谱华章科技有限公司总裁王绍兰表示,今年大模型有两个重要的趋势,一是大模型生成技术已经不再是单纯的以语言文字为基础的模型,在多模态上取得了长足的进步;二是伴随产业和生产力赋能需求,大模型智能体迈入AI下半场。发展与安全性并存的大模型,使得我们必须在注重安全问题的同时也不能忽视大模型的能力拓展。

“AI赋能安全能力:效率制胜。”绿盟科技集团首席创新官刘文懋表示,当前,安全运营的时效性问题已经成为安全行业最大的困扰,安全行业需要以AI能力赋能安全运营以及其他人力密集型的工作,在这一背景下,效率成为AI赋能网络安全行业的制胜之道。

据了解,大会设置1场主论坛和2场专题论坛,以线下论坛、线上直播结合的形式展开。院士专家、行业大咖云集,共话网络安全前沿科技,共谋数智赋能发展路径。会上,绿盟科技重磅发布了多款数据要素流通安全能力和大模型创新成果。(李政葳)

(编辑:索朗次仁)