💻 科技 · 医疗健康
🔥 AI看病并非万能,专家共识:辅助不替代,"黑箱"与幻觉仍是最大隐患
打开手机,输入"头疼恶心",几秒钟后AI给出"可能是偏头痛或高血压"的判断——这种"先问AI再看医生"的新习惯,正在成为越来越多人的选择。春节期间,多位网友分享用AI健康App为父母咨询病情的经历,AI甚至能听懂方言,实时记录血压变化,让在外工作的子女多了一份安心。
但#AI看病靠谱吗# 这个问题,专业医生们的回答并不一致。有人赞它为"得力助手",也有人警告它可能"误人子弟"。一场关于AI诊疗边界的讨论,正在中国医疗界悄然展开。
客观数据面前,AI确实有亮眼表现。2026年2月,上海交通大学医学院附属新华医院孙锟教授、余永国教授团队与张娅教授、谢伟迪副教授团队联合研发出DeepRare系统——全球首个"推理过程可追溯"的罕见病AI诊断工具,成果发表于国际顶尖期刊《自然》。在没有基因检测结果的情况下,仅凭临床症状,该系统首次诊断准确率达到57.18%,比此前国际最好模型高出近24个百分点;若加入基因数据,准确率可突破70%。目前全球已有600多家医疗机构注册使用,新华医院内部也已部署,将正式上岗协助医生"查漏补缺"。
AI的"黑箱":它知道答案,但说不清为什么
尽管AI医疗捷报频传,但医生们最担心的问题始终没有解决:AI不解释。
南方医科大学珠江医院副院长张鹏直言:"AI有时会把肺血管断面误判为结节,将良性钙化当作病变。它不知道患者刚做完手术,也不理解结节三个月未变但患者有家族史。这些背景信息,恰恰是医生决策的关键。"
南京大经中医药信息技术有限公司董事长李文友从技术原理上解释:"大模型本质是'词语预测机',逐词生成内容,而非像人类那样先思考再表达。"这意味着,AI的结论往往连自身都无法说清推理过程。在医疗领域,这不仅是技术问题,更是信任问题——医生不仅要治疗,还要向患者解释,更要对判断负责。
更棘手的是AI的"幻觉"问题——它会一本正经地编造信息。北京协和医院研发"协和·太初"时,专门构建多维度可溯源知识库来应对这一难题。华大基因副总经理朱师达指出,深度学习算法的"黑盒"特性是获取三类医疗器械注册证的核心难点之一,算法推理无法透明化是多数产品注册受阻的主因。
29个临床病例测试:AI在"早期诊断"上栽了跟头
AI到底能不能当医生?2026年4月,美国麻省总医院MESH孵化器团队在《JAMA Network Open》发表了一项权威测试,结论耐人寻味。
研究团队选取包括ChatGPT、DeepSeek、Claude、Gemini和Grok在内的21种大语言模型,在29个已发表的临床病例中模拟真实诊疗过程。结果显示:当获得完整信息时,所有模型在超过90%的案例中能给出正确最终诊断——但这只是"开卷考试"。
真正的问题出在早期诊断阶段。超过80%的情况下,模型未能提出合理的"鉴别诊断"——即对多种可能疾病进行系统性分析与筛选。这项能力被医学界公认为临床推理的核心,也是医生决策的重要基础。研究团队提出的PrIME-LLM综合评分显示,各模型整体表现仅在64%至78%之间。
团队结论明确:当前大语言模型尚不适合在缺乏监督的情况下直接用于临床实践,其价值更在于辅助医生决策,而非取而代之。
谁为AI出错买单?目前还是医生
比技术更让人纠结的是责任归属。
未来医生创始人、CEO王仕锐明确表态:"在当前法律框架下,最终责任由接诊的执业医师承担。"未来医生平台构建了"四级分诊防御矩阵",所有AI输出都须经真人医生审核确认,截至目前未发生因AI辅助导致的重大医疗纠纷。
但问题在于,若医生过度依赖AI,或AI的错误极其隐蔽,责任归属便会变得模糊。张鹏认为,这需要医院、厂商、医保部门和法律界共同探讨,"目前这仍是一个灰色地带"。
比责任划分更现实的是成本问题。迈克生物总经理吴明建算了一笔账:一套AI系统动辄上百万元,医院难以负担;按次收费又缺乏统一标准。更关键的是,目前医保仅在少数领域覆盖AI辅助诊断——2026年4月国家医保局将部分AI辅助诊断纳入乙类目录被视为积极信号,但最新检验立项指南中"AI不单独收费"的定调,相当于将AI定位为"配件",其价值被限定在帮助医院内部提效,而非可直接向患者收费的服务。
对于普通患者而言,专家们的建议高度一致:AI可作为了解病情的工具,但不能作为诊断、用药、手术的依据。任何涉及医疗决策的问题,都必须前往正规医疗机构,由执业医生做最终判断。正如张文宏所言:"我们不能直接把生命和健康交给AI来处理。"
综合新华网、央视网的、光明日报报道 | 2026年8月29日
收起 ▲