人工智能应遵循伦理规范和国家法律 博鳌亚洲论坛2025年年会聚焦AI应用与治理

当前，全球人工智能技术快速迭代并应用到各行各业，进入爆发式发展阶段。在创造更多发展机遇的同时，以AI为代表的新兴技术也带来很多风险挑战。 

3月25日至28日，博鳌亚洲论坛2025年年会在海南博鳌举行，AI成为四大议题之一。从现场令人惊叹的科技展示，到各分论坛上唇枪舌剑的思想交锋，AI热度持续飙升。 

中外嘉宾表示，要多方协作、动态治理、伦理优先、法治保障、技术透明，平衡推进人工智能的应用与治理。既不扼杀创新动力，又能有效防范可能出现的风险，建立安全、可靠和值得信赖的人工智能系统，让科技成果惠及全人类。 

AI的平权化发展 

“今年全球最热的一件事就是人工智能的飞跃发展，AI的每一个进展都如此的激动人心”“中国在人工智能等多个领域的发展令人印象深刻”…… 

在“在AI应用中塑造核心竞争力”“AI：如何做到应用与治理的平衡推进”“加强数字能力建设，跨越数字鸿沟”等分论坛上，《法治日报》记者听到多位嘉宾如此感慨。 

“全球人工智能产业的飞速发展，其中DeepSeek带来的影响力尤为突出。”中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤表示，DeepSeek是近两年来人工智能领域最大的、系统性、规模性的创新，也是中国对全球的重要贡献。 

中国社会科学院大学教授、国务院原副秘书长江小涓从经济学角度分析称，DeepSeek打破了寡头垄断的局面，推动AI产业进入充分竞争阶段，实现了从技术能力向产业能力的转变，构建起传统市场经济的竞争格局。 

“今年春节期间，众多企业CEO都在研究如何将DeepSeek应用到企业运营中。”毕马威中国副主席刘建刚表示，DeepSeek作为低价、开源的推理大模型，提供了可快速部署的技术架构，有力推动了AI平权化发展。他提出：“未来，AI就像水和电一样，会成为一种基本资源，人人都能使用”。 

香港特区政府创新科技及工业局局长孙东介绍，当前，人工智能技术正重塑全球经济的格局。香港已经将人工智能列为关键产业，持续推进“人工智能＋”行动，积极推动人工智能的创新并赋能各行各业发展。 

乘着数字化转型浪潮，人工智能正以超乎想象的速度重塑企业运营模式。飞书产品副总裁施凯文提出，AI第一次让“三流人才”能够做出“一流人才”的工作成果，为企业发展带来全新契机。 

新加坡贸工部前首席经济学家、南洋理工大学经济学教授陈光炎表示，中国在人工智能领域取得了显著成就，全球竞争力不断增强，中国有望成为下一个全球生产力革命的推动者。 

构建AI安全护栏  

随着AI技术“狂飙式”发展，一个令人不安的场景或从科幻电影走向现实：本应协助人类的AI，可能因为算法偏差或外部操纵，做出违背伦理、违反法律、危及人类利益的决策……  

“与蒸汽机、电力等增强人类体力的技术不同，AI直接赋能人类大脑，涉及计算与认知的深度融合。”上海科学智能研究院首席战略官、复旦大学经济学教授杨燕青将AI特性描述为“类人”，这使得AI既能带来生产力提升，也可能引发威胁人类生存的风险。 

在中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅看来，人工智能的发展应用和安全之间不是相互掣肘的关系。 

“AI技术发展的同时，可以同步构建有效的‘安全护栏’。”曾毅建议，将伦理安全融入AI开发的底层设计，并视为“第一性原则”，不可删除、不可违背。AI的伦理安全应成为技术发展的基因，确保其与人类价值观保持一致。 

张亚勤进一步将AI风险分解为可信度与可控性两个层面。他指出，可信度要求AI在执行任务时遵循人类期望、伦理规范和国家法律，不产生误导性、有害或不公平的结果；可控性则确保人类能有效监控、干预和纠正AI行为，避免失控或不可预测的后果。 

“智能体的广泛运用，起码让AI的风险高了一倍。”张亚勤表示，就可能存在的风险而言，设定技术红线与边界是关键。如限制智能体自我复制，以降低失控风险。 

针对通过制定标准能否解决人工智能的安全性问题，vivo首席安全官鲁京辉指出，安全性问题不能简单地通过制定法律或规则来解决，需要形成共识，但技术共识无法消弭政治分歧，需正视地缘现实。 

欧盟《人工智能法案》于2024年实施，对高风险AI系统设定了严格的透明度和问责要求。今年3月，我国出台《人工智能生成合成内容标识办法》，在全球率先提出保障人工智能安全可信的“中国方案”。 

建立AI的“安全护栏”，需要技术、市场、政策、伦理的多轨并行。 

掀起AI新浪潮 

AI将把人类带向何方？如何推进人工智能全球治理？论坛期间，一系列问题成为中外嘉宾热议的焦点，引发了人们对人工智能未来走向的无限遐想。 

记者注意到，很多嘉宾通过类比电的发现、蒸汽机的发明，指出人工智能对人类社会的变革才刚刚开始。如今的人工智能，虽已在部分领域落地，但未来很可能催生全新的业务模式，重塑社会形态。 

“当前，国内人工智能行业的发展，正在从生成式AI走向Agent智能，从预训练走向推理，从信息智能走向物理智能、具身智能。”张亚勤表示，其中，相较人形机器人，无人驾驶作为具身智能最具潜力且最易落地的应用，有望率先实现大规模商用。 

曾毅提出，自然演化规律正逐步融入人工智能的计算体系，未来人工智能需在计算机制上借鉴自然机制，包括人类学习、发育和演化机制，有望推动人工智能迈向新高度。 

香港科技大学首席副校长郭毅可表示，人工智能的发展方向与工业革命单纯追求效率不同，更注重个性化。以浙江一家成衣制造公司为例，借助AI实现了成衣的个性化定制，最大程度满足了个人需求。 

施凯文认为，AI的发展就如同移动互联网的崛起，正处于蓄力阶段。未来几年，AI将从硬件到软件实现全面的更新换代，为经济增长创造新的需求和发展思路。 

清华大学公共管理学院院长朱旭峰还提出，未来，机器人文明可能全面取代人类文明。或者，人类通过技术改造自身，突破生命伦理限制，应对人工智能的挑战。  

当全球众多国家与机构积极探讨人工智能合作契机时，美国却反其道而行之。“美国限制技术流动、设置关税等行为，严重阻碍了全球技术的整体进步。”挪威商学院战略学教授、前诺丁汉大学商学院（中国）院长卡尔・费说。 

英国励讯集团公共事务总裁、爱思唯尔董事长池永硕强调，全球AI发展不应被单一国家主导，应摒弃狭隘的民族主义和企业竞争思维，重视全球合作的重要性。（法治日报全媒体记者　邢东伟　翟小功）

（编辑：旦增尼玛）