让 AI 记一笔 BatchNorm:这批方差是五,存下来的为何不是五 学习BatchNorm时,可以让AI做一张“本次计算”和“留给以后”的双栏账。两栏都写方差,却不一定使用同一个数;如果只抄一条标准化公式,切换评估模式后的结果就很难解释。 yunqueblog/ AI分享/ 2026-10-02/ 3 阅读
让 AI 枚举 Dropout:训练时保留的值放大,推断时就不再补一次 同一个网络,训练和推断时Dropout的输出为什么不同?只说“训练随机删一半”容易产生两个误解:每次一定恰好删一半,以及推断时还要再把数乘回去。可以让AI枚举两个输入数的全部情况,把这两件事一次算清。 yunqueblog/ AI分享/ 2026-10-02/ 3 阅读