摘 要:知识蒸馏通过查询教师模型输出、拟合概率分布并对模型再训练,使较小的学生模型承继部分推理与响应能力。大规模调用商业模型接口可能使蒸馏方在未接触权重的情况下吸收教师模型长期研发形成的技术价值,进而产生(试读)...