云鹊BLOG云鹊BLOG云鹊BLOG
  • 首页

云鹊BLOG云鹊BLOG云鹊BLOG

当前位置:首页关于 Decimal 的文章
Python Decimal.normalize:只是想删尾零,为什么有效数字也被改了

最新Python Decimal.normalize:只是想删尾零,为什么有效数字也被改了

为了把123.4500展示成123.45,调用normalize看起来很自然。但在精度为四的上下文中,它会返回123.4。两个尾零确实不见了,更重要的一位有效数字也变了。normalize不是一个只修剪字符串外观的工...

yunqueblogyunqueblog/ 技术教程/ 2026-10-04/ 2 阅读
Python Decimal 信号标记:后一笔计算精确,Inexact 为什么仍为真

Python Decimal 信号标记:后一笔计算精确,Inexact 为什么仍为真

批量处理测量值时,程序算完每一行就检查 Inexact,给发生精度损失的记录打标。第一行除不尽,第二行明明得到精确的零点五,却也被判为不精确。问题可能出在诊断状态没有清零:Decimal 的信号标记会保留此前发生过的...

yunqueblogyunqueblog/ 技术教程/ 2026-10-02/ 2 阅读
Python Decimal 舍入:把精度、位数和规则分开

Python Decimal 舍入:把精度、位数和规则分开

报表导出或测量结果保留两位小数,看起来只需要一个格式化操作。真正容易出错的是:输入是否已损失精度,中间计算保留多少有效数字,最终采用什么舍入规则。本文以 Python 3.14 官方文档核验语义,全部代码实际运行环境...

yunqueblogyunqueblog/ 技术教程/ 2026-10-01/ 4 阅读
  • 1
  • 共 1 页
Copyright2020后台修改文字. 基于Z-BlogPHP搭建