java – 为什么这个减法不等于零?

我在ColdFusion代码中遇到了这些值,但Google计算器似乎有相同的“错误”,其中差异不为零.

416582.2850 – 411476.8100 – 5105.475 = -2.36468622461E-011

http://www.google.com/search?hl=en&rlz=1C1GGLS_enUS340US340&q=416582.2850+-+411476.8100+-+5105.475&aq=f&oq=&aqi=

JavaCast将这些设置为long / float / double没有帮助 – 它会导致其他非零差异.

这是因为在基数10中“看起来”圆的十进制数在基数2中不能完全表示(这是计算机用来表示浮点数的数字).有关此问题和解决方法的详细说明,请参阅文章 What Every Computer Scientist Should Know About Floating-Point Arithmetic
.

翻译自:https://stackoverflow.com/questions/2002821/why-does-this-subtraction-not-equal-zero

转载注明原文: java – 为什么这个减法不等于零?

原文 

https://codeday.me/bug/20190112/510141.html

本站部分文章源于互联网,本着传播知识、有益学习和研究的目的进行的转载,为网友免费提供。如有著作权人或出版方提出异议,本站将立即删除。如果您对文章转载有任何疑问请告之我们,以便我们及时纠正。

PS:推荐一个微信公众号: askHarries 或者qq群:474807195,里面会分享一些资深架构师录制的视频录像:有Spring,MyBatis,Netty源码分析,高并发、高性能、分布式、微服务架构的原理,JVM性能优化这些成为架构师必备的知识体系。还能领取免费的学习资源,目前受益良多

转载请注明原文出处:Harries Blog™ » java – 为什么这个减法不等于零?

赞 (0)
分享到:更多 ()

评论 0

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址