当前位置:主页 > python教程 > 关于Python中浮点数精度处理的技巧总结

Python中浮点数精度处理的技巧

发布:2020-04-20 08:42:15 125


本站收集了一篇Python相关的编程文章,网友终君茹根据主题投稿了本篇教程内容,涉及到Python、浮点数、精度处理、关于Python中浮点数精度处理的技巧总结相关内容,已被341网友关注,下面的电子资料对本篇知识点有更加详尽的解释。

关于Python中浮点数精度处理的技巧总结

前言

最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:

关于Python中浮点数精度处理的技巧总结

出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。

比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:

0.00011001100110011001100110011001100110011001100110011001100

而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?

【方法一】利用round方法:

关于Python中浮点数精度处理的技巧总结

【方法二】利用decimal模块:

关于Python中浮点数精度处理的技巧总结

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对码农之家的支持。


参考资料

相关文章

  • python判断是否为浮点数的方法

    发布:2020-01-29

    python中isinstance()函数可以用来判断变量的类型,它返回的是一个布尔值,False or True.。像int、float等都是基础的变量类型,其实类也是一种变量类型。


网友讨论