欧盟《人工智能法案》生效将带动监管立法潮

人工智能是一把“双刃剑”,在促进社会进步的同时,也带来风险与挑战,因此全球各国迫切需要制定旨在解决人工智能相关复杂问题的法规标准。8月初,全球首部全面监管人工智能的法规——欧盟《人工智能法案》正式生效,并将在未来三年内逐步全面实施。

有专家分析认为,欧盟《人工智能法案》的生效,将带动人工智能监管立法热潮。目前,许多国家和地区正在制定人工智能监管法规,欧盟新法案可能为后来者提供重要借鉴。

风险剧增倒逼法规生效

当前,人工智能浪潮正席卷全球。人工智能特别是ChatGPT等生成式人工智能的迅猛发展,给人类社会既带来了机遇,也带来了风险,尤其是网络安全领域受到巨大冲击,其引发的安全风险也对监管和治理提出新要求。

值得一提的是,7月19日,“全球蓝屏”事件(美国网络安全企业“众击”软件出现问题引发的操作系统蓝屏、全球宕机事件)波及不少国家和地区,影响全球近千万台使用Windows的设备,导致航空公司、银行、电信公司和媒体、健康医疗等多个行业陷入混乱。此次事件只是当今时代网络安全风险的一个缩影,它提醒我们,在享受网络时代红利的同时,必须高度警惕潜在风险。

分析人士指出,当前,人工智能发展的速度远远超过技术监管、法律伦理、政策评估的脚步,需要一些更有远见的框架来应对未知挑战。

在这样的大背景下,全球首部全面监管人工智能的法规——欧盟《人工智能法案》8月1日起正式生效,并将在未来三年内逐步实施。

法案规定,聊天机器人等人工智能系统必须明确告知用户他们在与机器互动,人工智能技术提供商必须确保合成的音频、视频、文本和图像内容能够被检测为人工智能生成的内容。此外,法案规定,禁止使用被认为对用户基本权利构成明显威胁的人工智能系统。

有媒体分析认为,自2022年11月OpenAI推出大语言模型平台ChatGPT以来,欧盟人工智能立法进程被迫大幅提速。显而易见,欧盟《人工智能法案》的迅速进展主要源于ChatGPT等人工智能技术爆发的压力影响。

新法案对风险分级管理

作为全球首个全面的人工智能监管法案,欧盟《人工智能法案》采取风险分级的方式,将人工智能系统分为禁止、高风险、有限风险和最低风险四类,并据此设定不同的合规标准。同时,法案还试图把通用大模型关进“监管的笼子”,要求具有“系统性风险”的通用人工智能承担更多的合规义务。

在《人工智能法案》生效后,欧盟委员会的人工智能办公室将是法案在欧盟层面实施的关键机构。欧盟成员国必须在2025年8月2日之前指定国家主管部门,负责监督人工智能系统规则的应用,并开展市场监督活动。

另据了解,欧盟《人工智能法案》相关规则将在三年时间内分阶段实施:2025年2月2日,欧盟将禁止一系列被认为具有“不可接受风险”的人工智能实践;2025年5月2日,欧盟人工智能办公室将发布行为准则,为通用人工智能系统的提供者提供进一步的义务说明;2025年8月2日,法案有关通用人工智能模型、治理、保密性和大多数处罚条款将生效;2026年2月2日,欧盟委员会将发布实施细则(包括具体指南),明确高风险人工智能系统的合规要求,并提供高风险与非高风险系统的实际示例;2026年8月2日,除关于特定类型高风险人工智能系统的一项小条款于一年后的2027年8月1日生效外,法案将全面生效。

虽然距离欧盟《人工智能法案》全部生效实施还有一个时间差,但法案将为人工智能监管提供一致的规则,其影响力将超出欧盟范围,对在欧盟区域外设有业务的公司同样具有约束力。

多国监管立法箭在弦上

分析人士指出,当前人工智能技术的快速发展正呼唤着全球治理体系的相应完善,越来越多的国家已然意识到对人工智能立法监管的重要性,这将成为未来的大趋势。这部法案将对其他国家的相关立法工作产生重要影响。

2024年无疑将是人工智能全球治理具有里程碑意义的一年。这一年,不仅是全球首个全面人工智能监管法案——欧盟《人工智能法案》开始逐步施行,在世界范围内,多个主要经济体酝酿数年的人工智能监管立法也将陆续面世。

例如,在欧盟批准《人工智能法案》后,美“责任AI研究所”就表示美国人不希望看到欧洲在人工智能治理方面走在前列,敦促政府“美国需要自己的(人工智能监管)法规政策”。

据了解,美国拜登政府计划通过颁布行政令、国会立法并进的方式加速人工智能立法。今年7月11日,美国国会通过一项重要法案《内容来源保护和防止编辑和深度伪造媒体完整性法案》,旨在解决人工智能生成内容的“深度伪造”泛滥问题。法案正在等待总统签署成为正式法律,尚未正式生效,但已经获得多方支持。美国国会近期提出的其他类似人工智能监管提案还包括众议院今年1月公布的《禁止人工智能欺诈法案》等。

法国数据监管机构法国国家信息与自由委员会7月12日发布首批关于人工智能系统发展的建议,详细说明欧盟《人工智能法案》与《通用数据保护条例》如何相互作用。

英国议会于2023年11月发布《人工智能监管法(草案)》,英国科学、创新和技术部于2024年2月向英国议会提交《人工智能监管的创新方法:政府的回应》。

有分析指出,《人工智能法案》是欧盟主要大国博弈的结果,力求在安全监管和促进发展上形成一种平衡。长远来看,在全球范围内,如何降低人工智能“双刃剑”带来的安全威胁,在促进人工智能发展与加强监管之间取得平衡,仍需时间与实践的检验。(吴琼)

(编辑:索朗次仁)