桑爱玲：建立各方共识 确保儿童上网安全

桑爱玲

联合国儿童基金会驻华代表

今天这一代的孩子们无法体验那个没有智能手机和互联网的时代。数据显示,在全球范围内,每一秒钟就有两名儿童首次触网。纵观全球,中国是儿童互联网普及率最高的国家之一。共青团中央维护青少年权益部、中国互联网络信息中心发布的《第5次全国未成年人互联网使用情况调查报告》(以下简称《报告》)显示,截至2022年,未成年网民规模为1.93亿。

数字时代下的机遇与挑战

互联网为儿童提供了前所未有的学习、交流和获取信息的机会。联合国儿童权利委员会在其《关于与数字环境有关的儿童权利的第25号一般性意见》(2021)(以下简称《第25号一般性意见》)中强调,对于数字技术有意义地接触和使用,可以帮助和促进儿童实现《儿童权利公约》所规定的全方位的公民、政治、文化、经济和社会权利。

在中国及全球范围内,数字技术正在惠及弱势儿童——不但帮助他们在互联网上获取信息,还帮助他们学习和掌握面向未来的数字技能。对于某些儿童群体,比如中国的留守儿童,互联网和智能手机让他们能够与外出务工的父母保持定期的联系和沟通。

随着人工智能技术的快速迭代,各种数字场景也在快速地发展和演进。例如,生成式人工智能已嵌入多种多样的科技产品中,正影响我们的各类日常选择,涉及包括学习、获取信息以及与他人的沟通和联系等生活的各个方面。

在此情境下,儿童自然不可避免地受到不断变化的数字世界的影响。然而,互联网并不是专门为儿童设计的。儿童在体验数字技术的同时,也会暴露于诸多潜在的风险和伤害之下。这些风险和伤害包括网络欺诈、血腥暴力或色情内容、网络欺凌以及不法分子借助技术手段实施的性侵害等。

在所有风险中,不法分子利用数字技术制作和传播与性侵儿童有关的材料(CSAM)的行为,在全球范围内引起了广泛关注。相关数据显示其能够被广泛传播,造成的严重影响令人担忧。据估算,自2019年以来,全球关于性侵儿童相关材料的报告数量增加了87%。联合国儿童基金会于2020年和2021年开展的研究项目“中止伤害”在东亚和太平洋地区以及东部和南部非洲地区的12个国家对儿童进行访谈,结果显示,在最近一年内,有1%~20%的儿童遭遇过在线性侵;男童和女童受到的影响同样严重,且施害者经常是受害儿童熟识的人;约三分之一的儿童从没有将这种经历告诉任何人;在那些把自己的此类经历告诉他人的儿童中,大多数会选择告诉朋友,只有少数儿童向救助热线或警方等正式报告机制或法定机构进行求助。

当前,潜在的不法分子借助各类网络平台,以前所未有的手段接触儿童,并使用新工具或新方法大范围地侵害儿童。与此同时,网络欺凌、骚扰和其他形式的同伴间暴力行为在儿童用于娱乐和社交的媒体平台上也越来越常见。

2023年5月31日,在北京市举办的《童年一瞬 影响一生》艺术装置展中,一组装置向家长介绍孩子在网络中可能遇到的风险。图/联合国儿童基金会

各国的儿童保护工作系统和有关各方在此压力下已不堪重负。他们需要全新的支持措施和预防工具来帮助儿童,也需要不断改进和提升服务能力,高效协同地配合开展保护工作。

广大企业,尤其是科技行业的企业,在设计和实施与儿童相关的数字工具和在线体验方面影响巨大,这些数字工具和在线体验直接或间接地影响儿童权利的实现。因此,不论其所处行业和企业的规模,所有企业都有责任切实维护儿童权利并解决其商业行为可能产生的任何负面影响——无论是线上的影响还是线下的影响。无论是与儿童直接互动的公司、将儿童作为最终用户的公司,还是所有会影响到儿童的公司,都应当把在数字世界中保护儿童权利作为优先考虑的事项。

对今后工作的思考

在这个不断变化的网络环境中,我们需要携手合作,通过集体行动最大限度地发挥影响力。以下优先行动事项应特别考虑。

第一,首要工作是达成一项基础共识,其重点是防范儿童在互联网上面临的风险变成实际的伤害,同时切实保障儿童在数字环境下的参与权。正如联合国儿童权利委员会在《第25号一般性意见》中所述,我们在为保护儿童不断努力的同时,需要维护儿童的知情权和成为数字公民的权利。公众讨论、政策制定和干预措施的关注点应放在如何支持儿童拥有安全的数字体验上,而非主要关注儿童的在线时长以及如何限制他们对平台的访问。

第二,应继续在研究方面加大投资,以更好地了解数字环境的发展趋势、模式和风险,同时,记录和分享成功及有效的解决方案。要实现这一目标,至关重要的是定期开展研究、及时更新数据以及对数字技术产生的影响进行监测和评估。在此类研究中应将鼓励儿童参与作为一项关键策略,以帮助我们直接从儿童的经历中学习,并更好地了解他们的需求。

第三,各国政府需要制定法律和法规,及时应对新兴技术伴随的风险并限制错误信息和其他有害内容的传播。为保护儿童在数字世界中的权利,各国政府需要采取积极的措施,预测未来可能出现的风险,并了解当前决策对儿童福祉的长期影响。在以上工作中,要始终把“儿童的最大利益”原则作为首要考虑因素。

第四,各国政府还需要采取措施,确保企业履行保护儿童安全方面的责任,防止它们提供的网络产品和在线服务成为不法分子用于损伤或侵害儿童权利的手段。与此同时,科技企业需要采纳负责任的设计原则和标准,优先考虑儿童用户的安全、隐私保护和使用包容性,并在设计、部署产品和服务时让儿童用户参与其中。科技企业在开发数字产品和服务时,应遵循“以保障儿童权利为设计理念”的原则以防止对儿童用户产生任何不良影响。科技企业还须建立提供救助措施的标准流程,在其产品、服务造成或助长任何损害儿童权利的不良后果时能及时响应。

第五,让儿童具备安全遨游数字世界的技能至关重要。我们应当高度重视,为儿童尤其是低龄儿童的父母和照料者提供适龄的服务条款解释和保障他们安全上网的可用工具。最重要的是,如何引导儿童用户了解哪些是可接受的上网行为,哪些是不可接受的上网行为,以及哪些线上内容可能是有害的。我们还需要为父母和照料者、教师以及其他参与儿童工作的人士提供学习项目。可以考虑在学校引入数字安全教育等作为一种有效且能大规模推广的预防儿童在线风险的方法。

值得一提的是,在分享保障儿童上网安全的经验和良好实践的同时,我们也应认识到,世界上所有国家都在努力应对这一需要全球合作才能解决的问题。

中国拥有先进的互联网基础设施和全球最大的儿童互联网用户群体。中国的互联网公司不但有上亿的儿童用户,也普遍把科技创新作为他们开展商业活动时的优先事项。守护儿童的上网安全,就是守护我们的未来。通过有关各方的共同努力,为所有儿童提供安全的互联网环境,不但可以彰显中国对儿童在数字时代权利的承诺,也将彰显中国对实现2030年联合国可持续发展目标(SDG)的承诺。因此,我们更应不断加强国际合作和交流,借鉴和吸收彼此的成功经验,齐心协力帮助所有儿童特别是困境儿童,在数字时代充分实现他们的权利。

在中国开展的儿童网络保护工作

联合国儿童基金会驻华办事处与中国政府紧密合作,共同致力于强化和建设安全的数字生态系统。双方的合作主要通过支持儿童上网体验的研究,并与科技企业就“人工智能服务儿童”和“在设计技术与产品时考虑使用安全”等议题开展对话来实现这一目标。

联合国儿童基金会致力于倡导各方参考国际标准和全球良好实践推动儿童网络保护领域法律、法规和标准的起草和制定。最近的一项合作成果是双方通过合作开展研究和分享国际良好实践,为“人工智能服务儿童”行业标准的起草提供借鉴。我们还与合作伙伴一道,通过开发关于应对儿童上网风险和伤害的实用指南提升家长和儿童的意识;通过支持起草保护儿童性侵受害人的“一站式服务中心”的标准流程和开发《未成年人司法社会工作服务国家标准》,加强对遭受在线暴力侵害儿童的支持服务。通过不懈的努力,我们有效地促进了中国的儿童保护工作者与其他国家同行的经验交流,并期待在今后持续促进中国和世界各国分享彼此的成功经验和良好做法。