云鹊BLOG云鹊BLOG云鹊BLOG
  • 首页

云鹊BLOG云鹊BLOG云鹊BLOG

当前位置:首页关于 Nesterov 的文章
Nesterov先到哪里看梯度:前瞻点用旧速度,不能多走一次

最新Nesterov先到哪里看梯度:前瞻点用旧速度,不能多走一次

“Nesterov会提前看一眼”是一种方便的记忆法,却很容易让实现多加一次动量,或者在错误的位置求梯度。它没有预知下一步的真实结果,而是在一个由旧速度确定的前瞻点上重新评估当前损失。把参数、速度和求梯度的位置逐项记录...

yunqueblogyunqueblog/ AI分享/ 2026-10-04/ 3 阅读
  • 1
  • 共 1 页
Copyright2020后台修改文字. 基于Z-BlogPHP搭建