Thinking Machines Lab 提出 On-Policy Distillation：以 RL 约 1/10 的成本达到相近性能

Thinking Machines Lab 发布博客介绍 on-policy distillation 方法，从学生模型采样轨迹并由教师模型对每个 token 按 reverse KL 打分，结合了 on-policy 训练的相关性与蒸馏的密集奖励信号。