草稿模型接受率如何影响LLM推测解码的吞吐量与输出一致性

教师置信度过滤如何影响LLM知识蒸馏的学习效率与能力保留

提示长度如何影响LLM软提示调优的参数效率与跨任务迁移能力

LLM检查点平均如何影响损失盆地平滑性与下游任务鲁棒性

优化器参数分组如何影响LLM预训练中的层级学习与收敛质量

LLM神经网络缩放定律如何指导参数数据与训练算力分配

权重衰减系数如何影响大模型参数范数演化与预训练泛化性能

LLM预训练语料配比如何影响跨领域知识迁移与专业任务表现

标签平滑强度如何影响大模型预训练校准与下游任务泛化

LLM梯度噪声尺度如何影响最优批量大小与预训练算力利用率