云鹊BLOG云鹊BLOG云鹊BLOG
  • 首页

云鹊BLOG云鹊BLOG云鹊BLOG

当前位置:首页关于 信号标记 的文章
Python Decimal 信号标记:后一笔计算精确,Inexact 为什么仍为真

Python Decimal 信号标记:后一笔计算精确,Inexact 为什么仍为真

批量处理测量值时,程序算完每一行就检查 Inexact,给发生精度损失的记录打标。第一行除不尽,第二行明明得到精确的零点五,却也被判为不精确。问题可能出在诊断状态没有清零:Decimal 的信号标记会保留此前发生过的...

yunqueblogyunqueblog/ 技术教程/ 2026-10-02/ 3 阅读
  • 1
  • 共 1 页
Copyright2020后台修改文字. 基于Z-BlogPHP搭建