AI诈骗或为“有史以来最具增长潜力的行业”

在近日举行的伯克希尔·哈撒韦公司2024年度股东大会上,巴菲特表示,AI诈骗可能成为“有史以来最具增长潜力的行业”。此前,巴菲特曾警告说,AI有助于提高经济效率,但具有“巨大的破坏性”。

伯克希尔·哈撒韦公司股东大会被视为“投资界年度盛宴”,其释放的信号被全球投资人奉为圭臬。一名投资者在大会的问答环节向巴菲特提问:如何看待生成式AI的潜力?巴菲特在表示自己对这项新技术了解不多之后,进一步表示,有一天我们可能会后悔将精灵从瓶子里放出来,就像许多人后悔核武器的出现一样。

据史册所载,所罗门王是史上最富裕的君王,他有72个装着魔鬼的小瓶子。巴菲特所说的“瓶子”,显然就是装魔鬼的瓶子。他的意思是,不能把类似魔鬼的AI精灵从魔瓶中放出来。巴菲特讲述了自己的亲身经历:“我在屏幕上看到一个图像,有着我的声音,穿着我穿的那种衣服,就连我的妻子或女儿都不会察觉到任何区别,但它传递的信息绝不是我发出的。”他警告说,AI诈骗可能成为“有史以来最具增长潜力的行业”。

AI诈骗,以高度仿真性、隐蔽性、快速传播性、智能化的方式挑战着社会的安全与稳定,通过语音合成、图像伪造、社交工程学、自动化诈骗,给人们带来了巨大的经济损失和心理创伤,破坏人与人之间的信任关系,影响社会和谐稳定,阻碍科技发展,可能会让人们对人工智能技术产生恐惧和抵触心理,阻碍其进一步发展。

防范AI诈骗面临多重挑战。一是技术更新快,AI技术发展迅速,不法分子的诈骗手段也在不断更新,防范难度加大,防不胜防。二是公众防范意识不足,许多人对AI诈骗的认识不够深刻,缺乏有效的防范意识和技能。三是法律监管滞后,目前针对AI诈骗的法律法规还不够完善,对不法分子的惩处力度不够,致使违法成本低下。

值得关注的是,AI诈骗正成为一种行业,甚至开始通过商业化、产业化运作牟利。有人把AI拖入歧途,令人痛心又震惊。

目前不仅需要对AI加强监管,加大对违法行为的打击力度,更要从源头上提升人们对科技风险的认知。防范AI诈骗,科技伦理极其重要,我们在推动科技进步的同时,要不断提升防范技术和手段,确保其不被用于违法犯罪活动。

当AI诈骗成为行业常态,我们不得不反思科技与社会的关系,以及如何更好地引导科技为人类服务,而非成为犯罪的工具。有鉴于此,我们要针对AI诈骗的行业“增长潜力”,研究应对AI诈骗的策略。

首先,要加强技术研发。投入更多资源进行反诈骗技术的研发,提高识别和防范AI诈骗的技术能力,给AI技术添加“牛栏”,勿使其溜到“菜园”中践踏青苗。

其次,要加强公众教育。通过多种渠道向公众普及防范AI诈骗的知识和技巧,增强公众的防范意识。比如,AI再“逼真”也会露馅,毕竟AI无法模仿人类的感情,可从情感交流中识破其骗术。同时,要推动全社会共同参与、共同努力,遏制AI诈骗蔓延,保护人民群众生命财产安全,确保社会和谐稳定。

再次,要加大监管力度。通过完善相关法律法规,加大对AI诈骗的震慑、打击力度,提高不法分子的违法成本,让其倾家荡产。

最后,要加强国际合作。AI诈骗往往具有跨国性特征,需要加强国际合作与交流,共同应对这一挑战。如中美之间已就AI达成共识,双方宣布将举行中美“人工智能政府间对话”首次会议,进一步推进中美人工智能合作。

未来,随着人工智能技术的不断发展,我们要与时俱进,不断更新防范策略。我们也期待科技的进步能够为我们提供更多更好的解决方案,让我们能够更加安全地享受科技带来的便利。(作者:蔡恩泽)

（编辑：王小莉）