北京消协联合8家电商平台签订承诺书 直播间违规使用AI将被屏蔽

为应对AI合成技术滥用风险,规范电商直播行业秩序,近日,北京市消费者协会联合京东、美团、抖音、快手、小红书、微信直播等8家电商平台签订全国首份《促进AI技术规范应用承诺书》(以下简称“承诺书”),为AI技术应用划定合规红线。承诺书提出,一旦发现没有标识的疑似AI数字人或AI虚拟场景问题,经平台研判确系存在违规行为的,将采取屏蔽链接等措施。

近年来,AI数字人直播、虚拟场景带货等新技术应用快速普及,由此带来的商家违规操作也引发消费者担忧。北京消协历时3个月开展专项调查,锁定当前AI合成技术对消费者权益的侵害要点。据3000余份有效调查问卷显示,近九成的受访者呼吁“AI生成内容需显著标识”,超七成接受虚拟背景但强调需有显著提示,超六成认为AI数字人“缺乏真情实感”,近三成担忧其“可能误导消费决策”。调查显示,AI合成技术滥用滋生消费风险,虚假营销问题凸显,部分网络直播存在利用公众信任谋取不当利益的情况。部分电商平台尚未建立健全AI内容审核专项制度,对商家使用AI数字人、虚拟场景等技术缺乏有效管理规则和精准识别技术,导致消费者难辨信息真伪。

此次发布的承诺书要求,商家和内容创作者在利用AI技术生成合成数字人主播、虚拟场景时,要在显著位置清晰标注“AI生成”或“拟真场景”等提示内容。鼓励使用平台提供的统一AI内容标识功能主动声明,严禁利用AI合成换脸技术仿冒名人明星带货。

承诺书要求,内容审核与传播环节应采取措施,对商家或内容创作者的直播内容、直播场景进行监测。一旦发现没有标识的疑似AI数字人或AI虚拟场景问题,将及时采取适当方式在发布内容周边添加显著的提示标识。经平台研判存在违规行为的,将进一步采取屏蔽链接等措施。坚决抵制恶意删除、篡改、伪造或隐匿AI内容标识的行为,对违规账号及内容依法依规严肃处理。

北京消协相关负责人表示,签订承诺书仅是规范AI技术应用的第一步。北京市消协将持续跟踪网络AI技术应用动态,组织志愿者体验直播间购物、追踪反馈实际感受,督促企业严格落实承诺内容,构建“技术合规、平台履责、消费安心”的网络消费环境。（法治日报全媒体记者 张雪泓）