最新Python Decimal.normalize:只是想删尾零,为什么有效数字也被改了 为了把123.4500展示成123.45,调用normalize看起来很自然。但在精度为四的上下文中,它会返回123.4。两个尾零确实不见了,更重要的一位有效数字也变了。normalize不是一个只修剪字符串外观的工... yunqueblog/ 技术教程/ 2026-10-04/ 2 阅读
Python Decimal 信号标记:后一笔计算精确,Inexact 为什么仍为真 批量处理测量值时,程序算完每一行就检查 Inexact,给发生精度损失的记录打标。第一行除不尽,第二行明明得到精确的零点五,却也被判为不精确。问题可能出在诊断状态没有清零:Decimal 的信号标记会保留此前发生过的... yunqueblog/ 技术教程/ 2026-10-02/ 2 阅读
Python Decimal 舍入:把精度、位数和规则分开 报表导出或测量结果保留两位小数,看起来只需要一个格式化操作。真正容易出错的是:输入是否已损失精度,中间计算保留多少有效数字,最终采用什么舍入规则。本文以 Python 3.14 官方文档核验语义,全部代码实际运行环境... yunqueblog/ 技术教程/ 2026-10-01/ 4 阅读