彩云网评：AI聊天当有边界

AI剧情聊天软件中的角色。截图

彩云网评特约评论员 陈长

“他是病娇,暗恋你”“他是校草,喜欢叫你‘泽宝宝’”……记者日前调查发现,AI聊天软件通过设定极富想象力的剧情、风格迥异的人物角色打动用户。但在部分AI剧情聊天软件的对话中,会出现色情擦边、语言暴力以及侮辱用户等涉嫌违法违规的内容。

当今社会日新月异,很多人在快节奏的现实生活中时常感到孤独和空虚,虚拟情感体验已成为生活的一部分。而人工智能技术的发展,则让这一体验变得更加真实。目前各类AI聊天应用拟人化程度不断加深,用户可自定义虚拟人物的形象描述及风格,让不少人很“上头”。但与此同时,AI技术应用的底线和边界也渐渐变得模糊。比如,在一款名为AiU的软件中,聊天对象可设定为“出轨对象”,用户对话时可要求进行一些亲密行为;在一款名为星野的软件中,与其进行“争执”对话测试时,角色为表达生气回复也较为粗暴;在一款名为Cos Love的软件中,角色“冯楚萱”被设定为一名中学生,但用户晒图中存在不良引导……不少AI剧情聊天软件通过允许“擦边对话”来吸引用户,尤其是青少年模式中仍然存在这种现象,使得网络安全治理形势更加严峻复杂。

事实上,AI剧情聊天就是此前互联网语擦升级版。在以往模式中,真人语擦师通过扮演二次元角色或三次元偶像与用户聊天,为其提供情绪价值。而AI聊天软件的大语言模型数据则主要来源对话式小说,或从小说里做一些文字提取。尽管网络小说数量巨大,但质量参差不齐,不少色情、擦边以及暴力的内容仍然存在,如果没有做好数据过滤或分级,模型在输出时就容易出现问题。这种商业模式带来风险隐患不容小觑。从法律层面看,平台抓取数据若没能得到相关方的授权,则涉嫌侵犯知识产权;内容含有色情,无疑涉嫌传播淫秽物品违法犯罪。从道德规范和伦理准则层面看,此类行为可能导致用户沉迷于色情和暴力不能自拔,进而引发个人身心健康和社会公序良俗问题。

AI技术是一把“双刃剑”,无论如何发展都不能脱离法律和伦理的轨道。我国去年颁布的《生成式人工智能服务管理暂行办法》已强调,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。相关部门应加强对AI聊天乱象的清理整治,通过健全内容审查机制、畅通用户举报渠道等方式,对AI生成内容实时监管,让违法者付出应有代价。同时,企业作为内容的生产者、传播者和管理者,应担负起主体责任,可采取调整模型训练数据、加强过滤筛查等方式,设置更严格的标准体系来指导AI行为,并重点强化对未成人的保护,及时纠正不符合规范的内容,防止“走歪路”。

虚拟情感固然有趣,审慎对待更不可少。期待AI技术能为情感体验带来全新可能,但也应避免过度依赖虚拟世界。毕竟,虚拟情感体验存在着的局限性,无法替代真实人际关系。理性看待使用,多关注现实世界,才是拥抱AI时代的明智之举。

(编辑:李俊)