浮点数运算的精度问题
問題描述
在 JavaScript 中整數(shù)和浮點數(shù)都屬于 Number 數(shù)據(jù)類型,所有數(shù)字都是以 64 位浮點數(shù)形式儲存,即便整數(shù)也是如此。 所以我們在打印 1.00 這樣的浮點數(shù)的結(jié)果是 1 而非 1.00 。在一些特殊的數(shù)值表示中,例如金額,這樣看上去有點變扭,但是至少值是正確了。然而要命的是,當(dāng)浮點數(shù)做數(shù)學(xué)運算的時候,你經(jīng)常會發(fā)現(xiàn)一些問題,舉幾個例子:
問題的原因
似乎是不可思議。小學(xué)生都會算的題目,JavaScript 不會?我們來看看其真正的原因。
JavaScript 里的數(shù)字是采用 IEEE 754 標(biāo)準(zhǔn)的 64 位雙精度浮點數(shù)。該規(guī)范定義了浮點數(shù)的格式,對于64位的浮點數(shù)在內(nèi)存中的表示,最高的1位是符號位,接著的11位是指數(shù),剩下的52位為有效數(shù)字,具體:
第0位:符號位, s 表示 ,0表示正數(shù),1表示負(fù)數(shù);
第1位到第11位:儲存指數(shù)部分, e 表示 ;
第12位到第63位:儲存小數(shù)部分(即有效數(shù)字),f 表示,
如圖:
計算過程
比如在 JavaScript 中計算 0.1 + 0.2時,到底發(fā)生了什么呢?
首先,十進(jìn)制的0.1和0.2都會被轉(zhuǎn)換成二進(jìn)制,但由于浮點數(shù)用二進(jìn)制表達(dá)時是無窮的,例如。
IEEE 754 標(biāo)準(zhǔn)的 64 位雙精度浮點數(shù)的小數(shù)部分最多支持 53 位二進(jìn)制位,所以兩者相加之后得到二進(jìn)制為
0.0100110011001100110011001100110011001100110011001100因浮點數(shù)小數(shù)位的限制而截斷的二進(jìn)制數(shù)字,再轉(zhuǎn)換為十進(jìn)制,就成了 0.30000000000000004。所以在進(jìn)行算術(shù)計算時會產(chǎn)生誤差。
整數(shù)的精度問題
在 Javascript 中,整數(shù)精度同樣存在問題,先來看看問題:
同樣的原因,在 JavaScript 中 Number類型統(tǒng)一按浮點數(shù)處理,整數(shù)是按最大54位來算最大(253 - 1,Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1),Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整數(shù)范圍的。所以只要超過這個范圍,就會存在被舍去的精度問題。
當(dāng)然這個問題并不只是在 Javascript 中才會出現(xiàn),幾乎所有的編程語言都采用了 IEEE-745 浮點數(shù)表示法,任何使用二進(jìn)制浮點數(shù)的編程語言都會有這個問題,只不過在很多其他語言中已經(jīng)封裝好了方法來避免精度的問題,而 JavaScript 是一門弱類型的語言,從設(shè)計思想上就沒有對浮點數(shù)有個嚴(yán)格的數(shù)據(jù)類型,所以精度誤差的問題就顯得格外突出。
解決方案
加法函數(shù)
減法函數(shù)
/**** 減法函數(shù),用來得到精確的減法結(jié)果** 說明:javascript的減法結(jié)果會有誤差,在兩個浮點數(shù)相減的時候會比較明顯。這個函數(shù)返回較為精確的減法結(jié)果。** 調(diào)用:accSub(arg1,arg2)** 返回值:arg1加上arg2的精確結(jié)果**/ function accSub(arg1, arg2) {var r1, r2, m, n;try {r1 = arg1.toString().split(".")[1].length;}catch (e) {r1 = 0;}try {r2 = arg2.toString().split(".")[1].length;}catch (e) {r2 = 0;}m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //動態(tài)控制精度長度n = (r1 >= r2) ? r1 : r2;return ((arg1 * m - arg2 * m) / m).toFixed(n); }// 給Number類型增加一個mul方法,調(diào)用起來更加方便。 Number.prototype.sub = function (arg) {return accMul(arg, this); };乘法函數(shù)
/**** 乘法函數(shù),用來得到精確的乘法結(jié)果** 說明:javascript的乘法結(jié)果會有誤差,在兩個浮點數(shù)相乘的時候會比較明顯。這個函數(shù)返回較為精確的乘法結(jié)果。** 調(diào)用:accMul(arg1,arg2)** 返回值:arg1乘以 arg2的精確結(jié)果**/ function accMul(arg1, arg2) {var m = 0, s1 = arg1.toString(), s2 = arg2.toString();try {m += s1.split(".")[1].length;}catch (e) {}try {m += s2.split(".")[1].length;}catch (e) {}return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m); }// 給Number類型增加一個mul方法,調(diào)用起來更加方便。 Number.prototype.mul = function (arg) {return accMul(arg, this); };除法函數(shù)
/** ** 除法函數(shù),用來得到精確的除法結(jié)果** 說明:javascript的除法結(jié)果會有誤差,在兩個浮點數(shù)相除的時候會比較明顯。這個函數(shù)返回較為精確的除法結(jié)果。** 調(diào)用:accDiv(arg1,arg2)** 返回值:arg1除以arg2的精確結(jié)果**/ function accDiv(arg1, arg2) {var t1 = 0, t2 = 0, r1, r2;try {t1 = arg1.toString().split(".")[1].length;}catch (e) {}try {t2 = arg2.toString().split(".")[1].length;}catch (e) {}with (Math) {r1 = Number(arg1.toString().replace(".", ""));r2 = Number(arg2.toString().replace(".", ""));return (r1 / r2) * pow(10, t2 - t1);} }//給Number類型增加一個div方法,調(diào)用起來更加方便。 Number.prototype.div = function (arg) {return accDiv(this, arg); };總結(jié)
以上是生活随笔為你收集整理的浮点数运算的精度问题的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: FAT32和NTFS最大支持的单个文件大
- 下一篇: 【OpenCV】9th-关于argc