npy文件过大 如何处理
生活随笔
收集整理的這篇文章主要介紹了
npy文件过大 如何处理
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
思路:
在我們訓練模型的時候如果訓練數據集過于大,系統可能會報“out of memory”的錯誤,這時候需要我們減小數據集,也就是將npy文件變小。主要方法就是把npy文件轉化成numpy數組并截取。
舉例如下:
import numpy as np pre_train=np.load("train_ims.npy",allow_pickle=True,encoding="latin1") slice=pre_train[:2900] print(slice.shape) np.save('newtrain_ims.npy',slice)我們原來的npy轉化成numpy數組的維度是(29000,36,2048)
截取后slice的維度變為(2900,36,2048)
然后存儲為新的npy文件繼續進行訓練。
總結
以上是生活随笔為你收集整理的npy文件过大 如何处理的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: php文件解锁,php文件锁怎么用
- 下一篇: springboot---request