云鹊BLOG云鹊BLOG云鹊BLOG
  • 首页

云鹊BLOG云鹊BLOG云鹊BLOG

当前位置:首页关于 参数高效微调 的文章
用 AI 拆一层 LoRA:训练的是低秩增量,原权重仍然要保留

用 AI 拆一层 LoRA:训练的是低秩增量,原权重仍然要保留

“LoRA只训练少量参数”不等于把原模型删到只剩那些参数。可以让AI拆开一个很小的线性层:原权重照常计算,旁边另有一条低秩更新分支。把两条分支都算出具体数值,就能检查说明有没有偷换对象。

yunqueblogyunqueblog/ AI分享/ 2026-10-02/ 3 阅读
  • 1
  • 共 1 页
Copyright2020后台修改文字. 基于Z-BlogPHP搭建