筑牢安全堤坝 推动AI发展迈上新台阶

近年来,以大模型为代表的新一代人工智能技术飞速发展,在通信、金融、教育、医疗及工业互联网领域有广泛的应用场景。同时,人工智能技术的开发和应用必须考虑安全问题。安全是发展的保障,发展是安全的目的,只有不断探索并完善与创新发展相适应的安全保障方式,在创新发展与风险规避之间寻求平衡,方能行稳致远。

目前,我国已建成全球规模最大、技术领先的网络基础设施,数据资源价值加快释放,技术创新能力加速提升,核心技术不断突破,安全保障能力也大幅度提升,数字经济蓬勃发展,发展规模全球领先,数字社会服务更加普惠便捷,网络惠民便民红利充分释放,数字治理服务效能显著增强,网络空间命运共同体的构建持续推进。

“未来的世界是一个人工智能驱动的世界,我们要统筹发展和安全,牢牢抓住新一轮科技革命和产业变革的历史机遇,加快人工智能产业创新发展的步伐,推动与实体经济深度融合,达到新水平,推动行业规范发展,实现新突破,无论AI走入产业还是走进家庭,我们期待涌现出一批行动力强的实践者,共同助力我国AI迈上新的台阶。”中国互联网协会副理事长黄澄清表示。

今年以来,以ChatGPT为代表的生成式AI应用成为全球热点,科技企业围绕大模型正在展开竞赛,但生成式AI所涉及的数据安全问题开始成为各国政府和监管机构关注的重点。针对大模型训练、调优所使用数据的安全,中信证券分析师杨泽原表示,应结合数据采集、传输、存储等全生命周期,通过加密、数据水印等技术手段保护用户数据特别是隐私安全;针对大模型生成内容的可靠性及使用方式,应对AI生成内容进行标记,同时对AI生成内容的可靠性及传播链路进行把关。

为此,国家陆续出台一系列政策文件,为人工智能的发展提供更多的依据和制度保障。今年4月,中央政治局会议重点提及人工智能,指出要重视推动人工智能的发展,营造创新生态,重视防范风险,技术的变革越是进入一个快车道,网络安全行业更要以高质量发展为主基调。此外,国务院印发《新一代人工智能发展规划》,明确将人工智能作为国家的战略。工信部、科技部等部委紧跟出台文件落实。尤其是随着GPT大模型带来的产业发展变革,可以看出,人工智能在国际竞争和经济增长中都发挥着重要的作用。

人工智能在赋能产业应用、降本增效同时,也带来了一系列新的安全应用风险与挑战,包括数据安全、算法安全、应用安全、行业安全。这需要政府出台支撑支持政策,加强监管,完善相关的法律法规。企业应积极用好政策红利,加快人工智能领域的创新发展,同时要积极履行企业的主体责任,加强人工智能发展的潜在风险研判和防范,维护国家安全和人民利益,确保人工智能安全可靠可控。同时人工智能技术的发展需要跨学科跨领域的协作,企业、高校、科研机构等加强合作,共同开展技术研发、人才培养和产业应用等工作。

为了促进AI安全产业的快速发展,2023中国互联网大会AI安全论坛发起《共建安全大模型高质量数据集》的倡议,鼓励相关组织将积累的高质量安全数据集共享,使“数据共享、质量为先、有效流通、合法合规”成为整体指导方针,通过共同建设安全大模型高质量数据集,使AI安全产业高速、高质量发展。

中国常驻联合国代表张军表示,人工智能的复杂效应不断显现,既产生巨大技术红利,也引发越来越多的担忧,凸显了构建人类命运共同体的重要性、必要性、紧迫性。张军强调,国际社会应该秉持真正的多边主义精神,开展广泛对话,不断凝聚共识,探讨制定人工智能治理的指导性原则。中方支持联合国在此方面发挥中心协调作用。国际社会要强化风险意识,建立有效的风险预警和应对机制,确保不发生超出人类掌控的风险,确保在关键时刻人类有能力摁下“停止键”。

（编辑：马慧彬）