AI制作监控视频——“狗狗救孩子”火爆网络 虚拟世界如何做到真假可辨？

据中央广播电视总台中国之声《新闻纵横》报道,你有没有在短视频平台上刷到过爆火网络的“狗狗救小孩”视频?

画面里,一个孩子趴在马路中央,后方有汽车急速驶来。眼看就要撞上,一只大黄狗冲了出来,咬住衣服把孩子拖拽到路边。你是不是也跟着捏了一把汗,心里赞一句“这狗太通人性了”?因为内容抓人眼球,这则视频在短视频平台上收获了7.7万点赞。评论区中,不少人称赞“狗狗很棒,救了孩子一命”,也有人问“家长在哪里”。

实际上,在视频下方的文字区域,有一行小字:“作者声明:内容由AI生成”。也就是说,这是一则由人工智能生成的虚构内容,并非真实发生的监控画面。很多人刷视频时,注意力都被画面吸引,很少有人会留意下方这行颜色浅、字体小的作者声明。

记者调查发现,网络平台上还有不少此类视频,都打着“监控实拍”“行车记录仪录制”的旗号,虽然大都声明是由AI制作,但仍然有很多网友信以为真。这些视频被大量转发分享,虚假信息在不知不觉中扩散。标注一下真的就能免责吗?AI视频的边界在哪里?该如何规范这些行为?

记者在北京街头进行了一次随机采访,5位受访市民观看了这则“狗狗救小孩”视频。结果很一致——所有受访者都将这则AI合成内容当作是真实监控录像,没有一人关注到视频下方的“作者声明”。直到记者反复提醒,北京市民武女士才意识到这是AI制作视频。

记者:您看到最下面“作者声明”这一行字了吗?

武女士:哦,“内容由AI生成”——我确实没太注意,视频确实太逼真了,我真的以为就是一个监控视频,因为监控视频本身清晰度就没有那么清楚,可能会有一些糊,大家都觉得这是正常的现象,就不会想那么多。

实际上,视频下方区域是文字标题,这行藏在文字标题下方的“作者声明”,不仅字体比标题小一圈,颜色还更浅。武女士说,注意力都被画面所吸引,根本没留意到这行“不起眼的小字”。

记者:您觉得“作者声明”的字明显吗?

武女士:不明显,这个声明信息应该放在画面上,让观看者第一时间更容易捕捉到,知道这个画面是由AI生成的。人的注意力一旦被吸引了,就很容易被带偏,正常情况下刷视频不会太细究这些边边角角的小字。

记者进一步核查发布“狗狗救小孩”视频的账户发现,这个账户一共发布了12条作品,绝大多数都是所谓的“监控视角视频”。除了之前提到的“狗狗救人”,还有“雷电劈中大树瞬间”“山体滑坡瞬间”等极端场景,这些视频无一例外都标注了AI声明。

实际上,这类AI生成的“假监控视频”在网络上并不少见,与监控视频多呈现日常小事不同,这些视频大都是有冲击力的大场面,比如一则“胖男子踩塌楼板”的视频,就被大量转发传播。

2025年9月1日起施行的《人工智能生成合成内容标识办法》明确要求:应对人工智能生成合成内容添加显式标识,如在生成合成视频起始画面和视频播放周边的适当位置添加显著的提示标识;并强调显式标识是可以被用户明显感知到的标识。但记者调查发现,多数此类视频仅在视频下方用小号字体进行声明。

北京嘉潍律师事务所律师、中国政法大学知识产权研究中心特约研究员赵占领表示,这与“显著可感知”的法定要求相去甚远。

赵占领说:“显著标识应该以绝大多数普通网民的注意力为判断标准,如无法跳过的前置提示,刚刚打开视频时就通过显著的字眼,以醒目的方式来提示视频内容属于AI合成。如果这种标识在某一个不起眼的角落,或用小号、浅色字体,或在其他地方一闪而过,用户可能就注意不到,这种标识显然不属于显著标识。从这个角度讲,尽管视频有这种标识,但仍然涉嫌违反关于显著标识的规定。”

现如今,AI视频从之前的“一眼假”已进化到现在的“真假难辨”。如果这类视频再披上“监控画面”这样的外衣就很容易误导用户。赵占领表示,用生成式人工智能合成内容的底线是不能生产虚假信息。

赵占领说:“AI合成视频,尤其是宣称视频为监控录像的AI合成视频,具有高度的风险性与社会误导性,这种表述会让普通网民误以为视频是真实的视频监控录像。这种情况下,发布的视频涉嫌构成虚假内容,违反相关法律规定。平台对于用户发布的视频内容则具有审核的义务,对于宣称是监控录像的AI合成视频,应进行特殊的审核,采取更严格的标准;对于AI合成的发布内容,应在流量分配方面采取更谨慎的做法。”

近年来,我国在人工智能立法领域持续发力,《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等相继出台,为制作传播AI内容的相关主体划定法律红线。北京师范大学法学院副教授、中国互联网协会研究中心副主任吴沈括也指出,在AI技术越来越普及的当下,光有法规约束还不够,互联网用户自身的数字素养同样至关重要。

吴沈括说:“这是一个阶段性的客观现状,目前信息内容来源多样,其中不乏人工智能生成的虚拟内容,对信息属性的准确判断是广义上数字素养的重要组成部分。大家要逐步养成识别、甄别信息的习惯。首先要看是否有提示:‘本内容由AI生成’或‘本内容疑似由AI生成’。在接受内容的过程中,要注意多渠道的信息交叉比对,因为只有通过多元信息的融合,才可能最大程度地还原事实真相,帮助判断事件的真实性。”（记者 谭瑱）

(编辑:李俊)