python3的float数精度_Python numpy 浮点数精度问题
Python numpy 浮點數精度問題
在復現FP(fictitious play, Iterative solution of games by fictitious play-page393)算法的時候,迭代到中間發現沒法復現paper里的結果,發現是numpy矩陣運算浮點數精度的問題。
具體問題
矩陣和向量相乘
\[\begin{pmatrix}
3 & 1 & 1 & 1
\end{pmatrix}
\times \begin{pmatrix}
3 & 1.1 & 1.2 \\
1.3 & 2 & 0 \\
0 & 1 & 3.1 \\
2 & 1.5 & 1.1
\end{pmatrix}
= \begin{pmatrix}
12.3 & 7.8 & 7.8
\end{pmatrix}
\]
然后取argmin想得到第一個7.8的index,也就是1。但由于精度的問題,導致兩個7.8實際不一樣大,取到了第二個7.8的index。
具體問題代碼為
import numpy as np
x = np.matrix([3,1,1,1])*np.matrix([[3,1.1,1.2],[1.3,2,0],[0,1,3.1],[2,1.5,1.1]])
print('matrix: ',x)
print('value: ',x[0,0],x[0,1],x[0,2])
print('index: ',np.argmin(x))
得到
matrix: [[12.3 7.8 7.8]]
value: 12.3 7.800000000000001 7.799999999999999
index: 2
可以發現明明相同的兩個7.8由于精度變成了兩個大小不同的數,所以argmin得到了2。
解決辦法
二進制固有的問題,只能自己手動近似,用保留小數點位數消除誤差。
如這里保留5位小數:
import numpy as np
x = np.round(np.matrix([3,1,1,1])*np.matrix([[3,1.1,1.2],[1.3,2,0],[0,1,3.1],[2,1.5,1.1]]),5)
print('matrix: ',x)
print('value: ',x[0,0],x[0,1],x[0,2])
print('index: ',np.argmin(x))
得到
matrix: [[12.3 7.8 7.8]]
value: 12.3 7.8 7.8
index: 1
注意事項
這個辦法不能解決所有問題,畢竟每個問題精度要求不一樣。但由于計算機二進制的原因,沒法從根本上解決,只能通過近似的方式,具體問題具體解決。
總結
以上是生活随笔為你收集整理的python3的float数精度_Python numpy 浮点数精度问题的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 怎么查看蓝牙uuid_多设备低功耗蓝牙
- 下一篇: python数值积分_python与计算