人工智能治理进入新阶段

11月2日,在英国布莱奇利园,英国首相苏纳克(左)与特斯拉首席执行官马斯克在首届人工智能安全峰会上举行会谈

随着信息技术的迅猛发展,社会行为体、社会要素开启了不可逆的数据化进程。我们正在从社会的数据化阶段,发展到数据的社会化阶段。

智能技术一直在推进世界快速发展,在全球范围内,对人类经济社会发展、人类文明进化产生了深远的影响。智能技术催生了新的机遇,同时也伴随着重大焦虑与挑战。

11月初,首届人工智能安全峰会在英国布莱奇利园举行。峰会发布《布莱奇利宣言》(以下简称《宣言》)指出,人工智能的许多风险本质上是国际性的,因此“最好通过国际合作来解决”。与会国家和地区同意协力打造一个“具有国际包容性”的前沿人工智能安全科学研究网络,以对尚未被完全了解的人工智能风险和能力加深理解。英国政府发表声明称,这是世界首个由多个国家和地区达成的人工智能安全领域宣言,参会代表就前沿人工智能技术发展面临的机遇、风险和采取国际行动的必要性取得共识。

会议前后,中方提出的《全球人工智能治理倡议》引发全球关注和呼应。中方积极支持在联合国框架下讨论成立人工智能国际治理机构,协调国际人工智能发展、安全与治理重大问题。

全球人工智能治理俨然已进入一个新阶段,这一新阶段的具体变化是什么?又需要注意哪些问题?

从社会的数据化到数据的社会化

随着信息技术的迅猛发展,社会行为体、社会要素开启了不可逆的数据化进程。我们正在从社会的数据化阶段,发展到数据的社会化阶段。

社会的数据化是指各社会部门开始将信息和数据应用到各自的运作和决策中,各部门逐渐开始数据化,其特征表现为发生场域和领域是局部的,信息化、数据化技术也是局部的。例如,在政府部门中,数据分析被用于制定政策、优化资源配置,“数字政府”建设正在稳步推进;企业管理领域,数据驱动的决策被应用于市场营销、生产管理、供应链优化等方面。社会的数据化使得社会运作更高效、决策更精准,但同时也涌现出新的问题和挑战。

而数据的社会化,表明数据要素进入到高度发展阶段。在这个阶段,数据已经成为社会运行的基础和核心要素,所有社会部门都离不开数据的支持。全社会的运行都需要数据来支撑。个体层面,通过手机和电脑的使用、社交媒体的互动等,我们每天都产生大量的数据。组织层面,企业依赖数据分析进行市场研究、客户关系管理等,政府利用大数据实现治理智能化、城市管理优化等。总之,数据已经成为当代城市与社会的生命线,支撑着社会的运行和决策。

11月2日,在英国布莱奇利园,警察在首届人工智能安全峰会上执勤

10月25日正式挂牌的国家数据局,很能说明这一问题。鉴于当今社会数据体量、数据要素重要性的不断增长,国家数据局的成立,有助于推动数据的合理利用和共享,促进数据在社会各个领域的应用,促进数据的合理利用和社会价值的最大化,推动社会有序、良性发展。从职能上讲,国家数据局负责协调和推动数据资源的整合和共享,制定数据管理的规范和准则。同时,负责监管和保护个人隐私,确保数据的安全和合法使用。

从社会的数据化发展过渡到数据的社会化,面临的挑战也是显见的。主要表现在三个方面:一是数据安全和隐私保护问题,需要制定相应法律和政策来加以保护;二是如何平衡数据共享和个人权益保护之间的关系;三是技术更新问题。数据的技术和方法在不断发展,相关部门和机构需要保持对技术的更新和应用能力。

从社会的算法化到算法的社会化

算法,是当今时代一大热词。总体而言,算法是建立在数据基础之上的。在算法发展初期阶段,它表现为社会的算法化,在这个阶段,越来越多的社会部门开始使用算法来处理决策、管理事务。在政府部门,算法被用于优化城市交通、改善医疗资源分配等;在商业领域,它被用于市场推荐、商机发现、风险评估等。而算法的社会化意味着算法已经渗透到社会各方面,成为社会运作和决策的必然性工具和要素。无论是个人还是组织,都离不开算法的支持。

需要注意的是,算法在社会中的广泛应用,也引发了一系列问题与挑战。

一是算法的透明度问题。算法通常具有复杂性,超出一般公众的理解、认知能力,这使得人们难以评判算法是否公正和合理,进而陷入“算法黑箱”。

二是算法歧视与算法操纵问题。由于现有数据、算法的训练数据和模型往往存在人为操作、主观偏见和数据不完善问题,算法在应用过程中往往出现歧视性问题,由此导致不公平、偏颇性、偏好性现象和结果的发生。

展望即将到来的“算法的社会化”阶段,算法技术的社会卷入程度将会更深,更新迭代速度将会非常快,算法要素的被依赖程度也将进一步强化。在此情况下,人与算法的混合决策模式,或将成为主要的国家社会治理样态。为此,适时成立专门的算法管理机构也许是一种必然,其职能包括但不限于:负责制定和监督算法的规范和准则,检视并确保算法的透明度、公正性和合规性;推动开发公平的、可解释的算法模型,促进算法技术的进步和社会应用的良性发展;巡检用于算法的全模态数据、原材料,及时发现问题、纠正方向;等等。

从社会的游戏化到游戏的社会化

人们有时会感慨“人生如戏”,它可能不再纯粹是一种戏谑或调侃。随着数据、算法的筑基,以及元宇宙技术等的出现,作为复杂巨系统的社会有机体及其运行,在某种程度上也逐渐具有了和游戏类似的性质,其间经历了两个阶段。

第一阶段是社会的游戏化,指的是从社会局部(人群、场域)开启的游戏化进程。一旦开启,社会随之发生系统性深刻变革。游戏,使得社会生活打开了虚拟层面、精神世界的平行副本。人们的社交生活因此变得更加有趣、多彩、多元,当然也有沉迷其中的不利一面。在游戏世界中,新的社交联系、社会网络、社会实践得以建立,进而创造出一个联系更加紧密的游戏社区,包括网游世界(早期)、元宇宙世界(当前和未来)。

而第二阶段——游戏的社会化阶段,主要通过元宇宙技术实现,玩家可在元宇宙世界中互动和交流。可以预计,随着技术发展和成熟,未来元宇宙空间中的社交互动和游戏体验将会更加多样化、个性化和全球化,或将成为一种主要的社交娱乐、社会互动模式。

人们在元宇宙空间扮演自己的虚拟角色,与其他玩家交互、合作或竞争,不仅使得社交更加多样化和丰富,还能实现个体生命存在属性、维度的重大扩展。通过元宇宙空间的即时性反馈机制,玩家能够实时获得社会行动、社会干预的反馈。这种及时反馈和社会认可的机制,增加了参与度和激励性,吸引人们更积极主动地参与元宇宙空间中的游戏进程、社会活动。

总的来说,游戏的社会化、社会的游戏化两个阶段,一方面提升了人们的参与度和获得感,促进社会交流、合作、协同;另一方面也将真实的社会治理、社会关系、社会互动,迁移至游戏虚拟空间,为社会发展、社会治理带来新的思考方向。（文/吕鹏 编辑/吴美娜）

(作者系中南大学教授、北京大学武汉人工智能研究院副院长)

(编辑:王小莉)