浅析人工智能在认知战中的应用

北约科技组织报告指出,大脑是21世纪的战场。除了由环境定义的四个作战域(陆、海、空和太空)和连接它们的网络空间外,“认知”也被视为现代战争的一个完整作战域。认知战是一场心理、社会和技术战,旨在瞄准、影响和塑造个人和群体对情境和事物的理解,诱导其产生认知偏离,引发无意识的危险行为,甚至操纵一个民族的价值观、情感、民族精神、文化传统和历史信仰,以达到“不战而屈人之兵”的效果。具体手段包括挖掘个人的情绪和心态、塑造他们对事件的看法、认知和心理模型以及分裂团体、联盟并削弱抵制对手意图的政治意愿等。

人工智能/机器学习技术的进步为认知战的攻击和防御提供了机会。认知战是一种侵入性的、隐蔽的、无形的威胁,深植于人工智能和机器学习算法的各个层级中。一方面,对手可借助AI/ML技术全面分析目标人群在社交媒体等平台的数据,制定有针对性的认知行动策略。另一方面,AI/ML技术可支持各方更有效地反击和防御认知战攻击。例如通过机器学习算法来检测虚假信息和假新闻,并识别并封锁网络上的恶意内容。此外,人工智能技术与脑神经科学、生物技术和网络空间的融合和集成将进一步加深认知战的深度和广度,进而重塑全球安全环境。下文将通过俄乌“算法认知战”等现实案例来介绍AL/ML技术在认知战的应用。

应用1:俄乌冲突中的“算法认知战”

俄乌冲突除了现实中的武装冲突,还有相对独立的第二战场:互联网上的认知战。通过“深度伪造”技术伪造文字、照片和视频,并将其在社交平台上快速传播。俄乌冲突期间,一个关于乌克兰总统泽连斯基宣布投降的“深度伪造”视频就曾在社交平台上被疯传。乌克兰政要、乌克兰普通民众在推特等社交平台上的密集发声也收获国际社会的广泛关注和同情,在国际舆论场营造出了有利于乌方的认知态势。此外,社交机器人作为计算宣传中一种极具代表性的算法技术手段,在俄乌冲突中被大量运用至各大社交平台。社交机器人从发帖模式到用户信息都与真实用户高度相似,能通过投放“信息炸弹”混淆公众视听、塑造虚拟意见领袖。在冲突初期,乌克兰安全局就曾关闭一处拥有上百万机器人的“巨魔工厂”,该工厂的目标就是抹黑乌克兰官方发布的信息,破坏乌国社会与政治局势、伺机制造内部冲突。

应用2:日本运用人工智能技术打击虚假信息

今年,日本宣布,计划运用人工智能技术分析国外的虚假信息活动,以应对虚假信息在社交媒体上传播。据悉,日本目前并不具备打击虚假宣传活动的能力,也没有成立专门机构来监测境外假新闻,而日本政府希望尽早发现虚假信息宣传活动并用事实加以反击。日本陆上自卫队将在十年内设立一个专门的信息部门,海上自卫队也将建设一个具有综合网络和通信能力的部队。值得一提的是,日本高度重视信息战,特别是认知战,并将其视为电磁、网络和太空之外的第四大新兴作战领域。日本新修订的《国家防卫战略》提出,日本应从根本上加强防卫省和自卫队应对信息战的体制和功能,在2027年前建立应对包括认知战领域在内的信息战的情报能力。

应用3:美国开发脑机接口和人脑-人工智能训练系统

北约认知战项目将人脑视为认知战的战场,并将脑科学与神经科学纳入认知战研究领域。脑神经科学与人工智能相结合将为颠覆认知战提供新的思路和方法。脑神经科学研究人类大脑的结构和功能,通过对神经元和神经回路的研究,深入了解人类思维、情感和行为的本质。而人工智能则是基于计算机科学和数学理论,模仿人类智能的各种理论、方法、技术和应用系统。脑神经科学与人工智能的结合可以更及时地帮助作战人员全面、准确地预测和评估潜在的认知攻击风险和辅助应对措施。美国正将人工智能技术与脑神经科学、生物技术等融合,提升军事人员认知能力。2018年,美国国防高级研究计划局(DARPA)启动了一项计划,旨在开发一种安全、便携的神经接口系统,能够同时读取和写入大脑中的多个点。借助该系统,未来士兵可与战友和部队指挥官直接沟通想法,实现实时信息同步并更快速地响应对威胁,甚至可以直接控制士兵的行为。2021年,DARPA启动“感知赋能的任务指导”项目,旨在开发能协助军事人员完成复杂任务、扩展技能和减少事物的人工智能虚拟助手。此外,美陆军研究实验室也正致力于研究如何利用人的大脑活动信号来训练人工智能系统,以实现动态响应士兵需求,自适应地辅助士兵完成任务,从而优化人-机组队性能。

在意识层面,要让人们意识到认知战的存在,将认知安全放在国家安全的高度,保障医疗、教育、银行、企业等所有领域的认知安全。当前的认知战综合性、隐蔽性、欺骗性更强,因此,个人要增强思辨能力,通过表象看本质,多学习和了解认知战案例。平台要加大对平台内容的审核和管理,防范外界借助社交网络、短视频等平台投放“信息炸弹”。还要注意的是,认知战虽然发生在认知领域,但其也有影响现实空间的可能,因此政府等公共管理机构也要建立相关的监控和预警机制。

在实操层面,要建立各领域认知战监控和警报系统。这类系统可以通过识别提问、消息和新闻文章的来源位置(包括地理和虚拟位置)、正在讨论的主题、情绪、发布速度以及其他因素,及时监测到新出现的认知战活动,并跟踪其进展。系统中的机器学习算法也可以协助快速识别和分类新兴活动,而无需人工干预。此外,还要在系统中设计或嵌入威胁检测能力,开发经过认证的源代码以证明数据集的完整性和确定数据的来源,开发取证分析工具来评估数据集,开发自适应网络和认证标准以确保和维护数据集的完整性。

在发展方面,要时刻注意与国外技术的差距。目前,以ChatGPT为代表的人工智能聊天机器自OpenAI推出以来风靡全球,预计将对人类思维和工作方式产生极大影响。美国防信息系统局也将这类技术列入观察名单,不排除应用至军事领域的可能。因而,为了应对这些潜在威胁,科技部门必须加大相关科技研发和应用的投入,促进人工智能等新兴技术与脑科学等多学科研究的融合,以在未来的认知战中占得先机。 (作者渊亭防务)

(编辑:旦知吉)