arXiv于2026年10月9日收录一篇计算语言学论文，研究者Ibrahim Siddig和Munir Georges提出一种面向法律文本的知识图谱引导多任务预训练方法。论文关注的问题是：传统预训练模型通常把法规视为平面词序列，难以利用章节、条款、段落和句子之间的层级关系，从而限制法律问答中的结构化推理能力。论文原始页面
研究以德国《道路交通法规》（StVO）为主要场景，将法规中的层级结构转换为知识图谱，并联合使用下一句预测、知识图谱引导聚类和知识图谱感知段落分类三个训练目标。作者称，这种方法试图把法规中的关系信息直接注入模型表示，而不是完全依赖推理阶段对外部图谱进行离散检索；模型还通过门控机制调节文本表示与知识图谱表示的融合程度。
实验覆盖9个基于Transformer的编码器和324组实验。在论文使用的合成StVO问答数据上，作者报告相较基线取得10.3%至155.0%的相对提升；在奥地利道路法规上的零样本迁移实验中，报告的相对增益为3.4%至15.8%。论文还构建了包含12554组问答的数据集，并按照法规段落划分训练集和测试集，以减少相邻文本造成的数据泄漏风险。
这项工作的意义在于，它把知识图谱从外部检索工具转为预训练阶段的结构化监督信号，为法律、合同、合规等具有明确层级关系的文本建模提供了一条可研究路线。但目前证据仍应谨慎解读：实验核心数据来自德国交通法规，问答数据部分由大语言模型生成，性能提升是论文作者在特定设置下的报告，并不等同于通用法律推理能力已经得到证明。研究页面同时标注该论文已被NLLP 2026研讨会接收；截至目前，本文可核实的直接来源主要是arXiv预印本，因此仍需等待更多独立复现实验和跨法律体系评测。
参考来源：
由 AI 整理，仅供参考；请以原始来源为准。
