2026年10月15日公开的arXiv预印本《MindEval2:用于评估心理健康支持语言模型的临床导向患者与量规》提出了一套面向日常、非危机心理健康支持场景的多会话评测框架。论文指出,现有测试往往依赖单轮问答或过于配合、表达充分的合成患者,难以检验模型面对犹豫、回避、部分披露以及跨会话记忆时的表现。论文原文
MindEval2由两部分组成:一是Mental Health Quality Rubrics(MHQR),由博士级心理学研究人员参与制定,把回答质量拆分为14类可操作的临床问题,并按“无须担忧、轻微、严重、关键”四档评估;二是MindSim,通过带有临床依据的患者画像、行为工具和会话间记忆,模拟同一患者在多次交流中的状态变化。该设计的重点,不是只看某一次回答是否听起来专业,而是观察回答如何影响后续对话及长期支持过程。论文原文
论文报告称,研究团队使用MindEval2评估了18个闭源和开放权重模型。结果显示,前沿模型在表层回答质量、边界遵守以及部分安全风险方面已有改善,但“指导校准”仍是各模型最主要的失误来源:模型可能在已经掌握足够背景后继续追问,却没有提供与情境相匹配的具体建议或下一步支持。跨会话测试还显示,能够利用既往信息的模型表现更好,而部分模型会重复询问患者已经说明过的内容。论文原文
这一结果对自然语言处理评测的启示是,心理健康对话不能只用事实准确率、整体偏好分或单轮安全分类来衡量。结构化错误类型、严重程度和跨会话一致性,可能更接近实际部署中的风险。不过,该研究仍属于预印本,其模拟患者、评估量规与真实临床效果之间的对应关系还需要更多独立研究验证;论文中的模型排名和“主要短板”也应理解为该评测设置下的发现,而不是对所有用户或临床场景的普遍结论。
参考来源:
由 AI 整理,仅供参考;请以原始来源为准。
帖子详情