美国得克萨斯大学西南医学中心(UT Southwestern)于2026年10月20日发布消息称,一项关于人工智能急诊分诊工具的研究发现,模型可能复制临床评估中的污名化偏见,从而影响患者优先级判断。校方介绍
研究发表于《npj Digital Medicine》,采用受真实临床结果约束的对照实验:研究人员在两所学术医院选取病情分级相匹配的患者对,其中一名患者在6小时内出现恶化,另一名没有恶化,再让3个开放权重模型进行评估。论文原文 结果显示,当病历中加入涉及精神健康、物质使用或既往就诊行为等信息,并采用带有污名化色彩的表述时,模型对患者风险和救治优先级的判断可能发生变化;部分情况下,真正更可能恶化的患者反而可能被低估,形成错误排序。
这项研究并不意味着所有急诊人工智能工具都会产生同样结果,也不能直接推导出模型已经在现实医院造成了多少伤害。论文考察的是特定模型、病历信息和实验设计,研究结果能否推广到不同国家、医院、语言及临床流程,仍需进一步验证。不过,它提醒医疗AI部署者,输入数据的措辞不是中性的工程细节。模型评测除了看总体准确率,还应检查不同表述、患者群体和临床场景下的排序稳定性,并保留医生复核、风险告警和责任追踪机制。对创业团队和医院而言,值得重点观察的指标包括高风险患者漏分诊率、不同人群之间的性能差异、污名化措辞变化造成的决策波动,以及模型建议与实际临床结局之间的偏差。
参考来源:
- Artificial intelligence-enabled triage tools may reflect human biases 2026-10-20
- Outcome-grounded effect of clinically stigmatizing information on large language model emergency triage prioritization 2026-09-19
由 AI 整理,仅供参考;请以原始来源为准。
帖子详情