云鹊BLOG云鹊BLOG云鹊BLOG
  • 首页

云鹊BLOG云鹊BLOG云鹊BLOG

当前位置:首页关于 浮点数 的文章
Python math.fsum:大数已经抵消,为什么普通累计仍丢掉最后一点残差

Python math.fsum:大数已经抵消,为什么普通累计仍丢掉最后一点残差

五个浮点数包含一对大数、一对正负一,以及一个很小的剩余量。逐步累加得到负一,内置sum得到零,math.fsum却保住了那个小量。同一批输入产生三种结果,关键在于中途丢掉的低位是否仍有地方保存,以及后来大数抵消时能否...

yunqueblogyunqueblog/ 技术教程/ 2026-10-03/ 3 阅读
Python float.hex 无损记录:页面都显示成 1,为什么两个浮点值仍然不同

Python float.hex 无损记录:页面都显示成 1,为什么两个浮点值仍然不同

排查数值边界时,把变量用六位有效数字写进日志,两个不同值可能都显示成1。随后按日志重建输入,故障又无法复现。面向阅读的显示格式与面向复现的记录格式可以不同;float.hex提供了一种明确保存当前二进制浮点值的文本形...

yunqueblogyunqueblog/ 技术教程/ 2026-10-02/ 2 阅读
Python 三种余数:同样是七除以四,remainder 为什么会给出负一

Python 三种余数:同样是七除以四,remainder 为什么会给出负一

周期位置、相位差和循环索引都可能需要余数,但 Python 的百分号、math.fmod 和 math.remainder 并不承诺同一个结果。七除以四,前两者可以得到三,remainder 却得到负一;差异首先来自...

yunqueblogyunqueblog/ 技术教程/ 2026-10-02/ 2 阅读
  • 1
  • 共 1 页
Copyright2020后台修改文字. 基于Z-BlogPHP搭建