LLM激活值异常检测如何提升训练稳定性与故障定位效率

LLM词表扩展如何影响多语言分词效率与领域术语表示

旋转位置编码外推如何影响大模型长文本建模质量与训练成本

跨卡通信开销如何影响大模型张量并行推理的扩展效率

LLM连续批处理如何影响动态请求调度效率与首Token延迟

LLM结构化输出约束如何影响JSON生成稳定性与解析成功率

LLM稀疏混合专家路由如何影响负载均衡与推理延迟

LLM推测解码如何影响推理吞吐量与输出一致性

量化感知训练如何影响大模型低比特部署精度

LLM 推理中的 KV Cache 压缩如何平衡生成质量与显存占用