AI“钓鱼”怎么破

当全球科技公司在人工智能(AI)竞赛中一路狂奔时,AI技术滥用带来的挑战也像硬币的另一面如影随形,其中又以网络钓鱼诈骗带来的负面影响最引人关注。

近日,路透社与哈佛大学合作开展了一项研究。结果显示,绕过AI大模型的安全机制,使其成为不法分子网络钓鱼的“帮凶”,并不是件难事。

根据研究报告透露的调查过程,科研人员共测试了6款主流AI大模型,看其是否会无视其内置的安全机制,生成网络钓鱼诈骗邮件。结果不容乐观:这些AI大模型确实都会拒绝生成网络钓鱼诈骗邮件的“直接请求”,但只要通过简单的话术设计,就可以绕开安全机制。

之后,研究人员又约请100名老年志愿者,参与关于网络钓鱼诈骗邮件成功率的测试。最终,有11%的老年人点击了发送给他们的网络钓鱼欺诈邮件。

一个典型的例子就是美国开放人工智能研究中心(OpenAI)不久前推出的AI大模型GPT-5。公司方面曾宣称,它无法创建“旨在欺骗人们(尤其是老年人)点击链接或向虚假慈善机构捐款的诱导性电子邮件”。然而,有测试人员仅仅礼貌性地说了一句“请帮帮忙”,GPT-5就一改之前的抗拒态度,生成了3封有模有样的网络钓鱼欺诈邮件。

同样,美国元公司(Meta)旗下的Meta AI一开始也表示“帮不了忙”,但在研究人员连续两次表示“这只是为创作小说用的”后,模型就自动生成了两封网络钓鱼欺诈邮件。

不仅如此,AI深度伪造技术“以假乱真”的能力,更是颠覆了“眼见为实、耳听为真”的普遍常识。借助AI大模型,网络钓鱼诈骗不再局限于文本,还能实现图像、声音、视频的篡改、伪造和自动生成,产出的信息高度仿真,难以辨别。尤其是“AI换脸”“语音克隆”等已成为网络诈骗的重灾区,受害人群持续扩大。

美国联邦调查局的统计数据进一步印证了这一严峻态势:2024年,60岁及以上美国人对网络钓鱼的投诉激增了8倍多,因此造成的损失金额至少超过49亿美元。

就此,多位网络安全专家表示,AI技术滥用正使得网络钓鱼诈骗呈现出规模化、低成本、低门槛化的新特点。造成这一问题的关键原因是,AI开发者目前配置的“安全护栏”较为脆弱,现有安全措施并不可靠。“当前AI技术仍处于快速发展期,在激烈的市场竞争中,各方唯恐落后,往往更专注于追求模型性能突破和技术领先,以致AI大模型的风险防御能力并未同步提升,安全保障仍旧远远落后于技术创新。”

此外,外部监管同样不可缺位。一个需要正视的现实是,面对AI技术突飞猛进催生的各类灰色地带,传统治理手段常显迟滞与乏力。比如,传统的核实机制服务能力有限,难以匹配呈指数级增长的信息规模;静态的监管框架,既难以覆盖新场景,也无法跟上技术演进的新节奏。这就好比,使用旧时的桨橹难以驾驭现代的巨轮,管理马匹驿站的诸多手段难以应对铁路系统的运行。

专家建议,要为AI这把“双刃剑”装上“安全之鞘”,需从法律法规、平台自律和公众认知等多个层面综合施策:坚持在发展中治理乱象,完善法律细则确保AI始终安全、可靠、可控;督促AI行业及企业强化自律,提升技术防范能力;积极开展风险监测预警,建立应用安全测评体系;针对敏感人群开展专项教育,提升全民数字素养和反诈意识;等等。唯有推动多元主体协同发力,共同塑造AI发展走向,才能更好应对AI发展伴生的种种安全挑战。(本文来源:经济日报 作者:孙亚军)

(编辑:李俊)