Python执行精确的浮点数运算
生活随笔
收集整理的這篇文章主要介紹了
Python执行精确的浮点数运算
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
有時候:代碼上數(shù)字計算可能會有如同下面的誤差
原因:
這些錯誤是由底層CPU和IEEE 754標(biāo)準(zhǔn)通過自己的浮點單位去執(zhí)行算術(shù)時的特征。 由于Python的浮點數(shù)據(jù)類型使用底層表示存儲數(shù)據(jù),因此你沒辦法去避免這樣的誤差。
a=3.2 b=2.1 print(a+b) # 5.300000000000001 print(a+b==5.3) # False如果:對浮點數(shù)執(zhí)行精確的計算操作,并且不希望有任何小誤差的出現(xiàn)
解決:decimal 模塊
''' 遇到問題沒人解答?小編創(chuàng)建了一個Python學(xué)習(xí)交流QQ群:778463939 尋找有志同道合的小伙伴,互幫互助,群里還有不錯的視頻學(xué)習(xí)教程和PDF電子書! ''' from decimal import Decimal a = Decimal('4.2') b = Decimal('2.1') print(a + b) # Decimal('6.3') print((a + b) == Decimal('6.3')) # True注:
真實世界中很少會要求精確到普通浮點數(shù)能提供的17位精度。 因此,計算過程中的那么一點點的誤差是被允許的。
第二點就是,原生的浮點數(shù)計算要快的多-有時候你在執(zhí)行大量運算的時候速度也是非常重要的
總結(jié)
以上是生活随笔為你收集整理的Python执行精确的浮点数运算的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python 统计使用技巧
- 下一篇: Python面试题:字节到大整数的打包与