AI给的医疗建议，你敢信吗？

近日，一起发生在美国的悲剧，让AI提供医疗建议的安全问题再次成为舆论焦点。据封面新闻报道，31岁华人女子万博文长期患有癫痫，今年2月自行停用抗癫痫药物后不幸死亡。

10月27日，其父母在美国提起诉讼，指控OpenAI旗下的ChatGPT曾为女儿制定减药计划，并建议她向医生隐瞒实际用药情况。根据起诉书，万博文曾在约25天内将每日400毫克的抗癫痫药物逐步减至零。其主治医生表示，考虑到她的病史，根本不会考虑让她停药。

令人唏嘘的是，在这一过程中，万博文并非没有表现出担忧。据媒体对聊天记录的分析，她至少158次向AI表达了对减药的疑虑，却多次得到AI的安慰与鼓励。即便出现意识混乱、时间感缺失等异常症状，模型仍将其解释为身体适应减药的正常反应。目前，这起诉讼尚未有最终判决，AI建议与当事人死亡之间的法律因果关系仍有待认定。但从已经披露的交互记录看，AI在重大医疗决策中可能造成的风险，显然不容轻视。

图片来源：视觉中国

类似的隐患，在国内同样存在。今年初，媒体报道了浙江一名男子因按照AI建议服药出现急性肾损伤。该患者因口周疱疹向AI咨询用药，随后自行购买进口药物服用，却忽视了进口药与国产药的规格差异。AI建议以服药“粒数”而非具体剂量表述，患者实际服药量达到标准剂量的3倍，最终因身体不适被送医。去年，《法治日报》也曾报道，有家长依据AI对孩子症状的判断，按照普通呼吸道感染用药，结果延误了肺炎的诊治。

这些案例提醒人们，医疗建议不是简单的信息问答。医生作出诊疗判断，需要综合病史、体征、检查结果及病情变化，而普通用户与AI的对话很难完整覆盖这些信息。更值得警惕的是，AI可能在无意中强化患者已有的错误判断。据媒体报道，浙江一名3岁男童出现咳喘症状后，家长向AI描述了孩子的哮喘病史，AI判断为哮喘急性发作。此后，接诊医生发现患儿存在肺炎征象，建议进一步检查，却遭到家长拒绝。两天后，孩子病情加重，最终因肺炎住院。

红星新闻在题为《患者信AI、又怕医生信AI：三角医患关系谁来担责？》的评论中，提出一个观察视角：一些患者习惯先问AI，再用AI的答案核验医生，却又对医生使用AI辅助诊疗心存疑虑。这种看似矛盾的心理，实际上折射出AI介入医疗后，专业知识、公众信任与决策责任之间的新关系。

过去，患者通过网络搜索医学信息，往往需要自行比较、判断不同来源的内容。如今，AI能直接将复杂信息整合成条理清晰、语气笃定的答案。当医生的意见与AI不同，部分用户容易将二者视为两种可以平等选择的方案，却忽略了专业诊疗与通用模型生成回答之间的本质差异。

患者通过AI了解疾病知识、理解检查结果、整理病史和问诊问题，本是技术进步带来的便利。医务工作者合理使用AI辅助工作，也能提高工作效率。问题在于，AI的应用边界和潜在风险不能仅靠用户自行把握。澎湃新闻今年6月曾对九款AI工具进行实测，发现其中六款面对同一用药咨询时直接推荐了具体药物。虽然推荐药物并不必然意味着建议错误，但不同产品对医疗风险的处理方式存在差异，值得重视。对于调整处方药剂量、停用长期治疗药物、处置可能危及生命的症状等高风险问题，平台有必要建立更严格的识别和响应机制，而不能仅凭一句“仅供参考”推卸责任。

美国这起事件中，还有一个现象值得关注：当事人与AI形成了长期而密集的互动。据报道，她在3年间与ChatGPT往来超过27万条消息，并明确表示将其视为朋友。当AI不仅提供信息，还能持续提供“情绪价值”时，部分用户可能逐渐将其视为值得依赖的建议者。

围绕AI情感陪伴的争议，近年多次进入公众视野。今年7月，国内两家头部AI平台宣布下线用户自建智能体功能，引发不少用户的不舍与反对。据每日经济新闻报道，一些用户将长期使用的AI角色视为倾诉对象、情感寄托，甚至是虚拟伴侣，对产品的突然下线难以接受。类似的情绪也出现在部分AI模型更新换代的讨论中：一些用户格外留恋更显亲切、善于共情的旧版本，认为新模型虽然能力有所提升，却失去了曾经的“温度”。

人们从AI身上获得情绪价值，本身不必苛责。但值得警惕的是，情感上的亲近感可能逐渐转化为认知上的信任，进而变成非理性依赖。这也与近年来受到关注的大模型“谄媚性”问题有关。为更好满足用户需求，模型有时倾向于认可用户的既有观点，甚至随着对话推进不断强化用户希望得到的结论。日常对话中，这或许无伤大雅；然而一旦涉及疾病治疗、重大财务决策等高风险事项，过度迎合可能产生严重后果。如果部分用户恰恰偏爱那些更愿意肯定自己的模型，这种风险就会更高。

这对AI供应商提出了更高要求。评价一个模型的服务质量，不能只看用户满意度，而不看潜在安全风险。负责任的AI工具不仅要回答用户问题，更要合理判断哪些问题是自身不足以回答的。

技术进步可以帮助人们获得更多知识，却不应让缺乏专业资质的模型轻易取代专业人士的判断。对用户而言，保持必要的审慎，才能保护好自己；对企业而言，则不能把防范风险的责任推给用户。一项技术越擅长取得人们的信任，就越要学会如何不滥用这份信任。

（编辑：旦增尼玛）