跳到正文
2022年7月27日周三
2022年7月7日周四
2022年6月7日周二
2022年5月20日周五
2022年2月20日周日
  1. Lilian Weng:Lil'Log57

    数据不足情况下的学习第二部分:主动学习

    监督学习任务的性能依赖于高质量标注数据,但获取大量标注样本成本高昂。主动学习是一种在标注预算有限、但允许投入部分人工标注资源的条件下,应对标注数据不足的范式。其核心思路是智能地选择最具信息量的样本进行标注,以在有限预算内最大化模型性能的提升。该方法旨在解决当面临标注数据受限时,如何通过策略性采样来高效利用标注资源的问题。

2020年3月1日周日
  1. Hugging Face 社区博客65

    如何用 Transformers 的不同解码方法生成文本

    Hugging Face 发布教程,讲解在 Transformers 中使用不同解码方法进行语言生成。文章覆盖多种 decoding 方法的选择与使用方式,原文正文未能抓取,仅标题可用。

2019年9月5日周四
  1. Lilian Weng:Lil'Log57

    进化策略

    进化策略是一种在目标函数解析形式未知或无法直接计算梯度时,用于优化模型参数的黑箱优化算法。它作为随机梯度下降的替代方案,适用于多种优化场景。文章介绍了模拟退火、爬山法、Nelder-Mead方法等经典进化策略,并探讨了该方法在深度强化学习中的应用。通过评估目标函数值而非依赖梯度信息,进化策略为复杂优化问题提供了有效路径。

2018年11月8日周四
2018年4月8日周日
  1. Lilian Weng:Lil'Log55

    策略梯度算法

    该文章系统梳理了策略梯度算法的发展脉络,深入解析其工作原理,并详细介绍了从基础到前沿的多种算法,包括PPO、SAC、TD3、IMPALA等主流方法。文章自2018年起持续更新,陆续新增了D4PG、SVPG、PPG等新算法,并补充了关于PPO的最新讨论。文中还提供了韩语及中文等多个语言版本的翻译,便于不同读者参考。