Ubuntu18 Win10搭建Caffe训练识别mnist手写数字demo
ubuntu 系統下的Caffe環境搭建
對于caffe的系統一般使用linux系統,當然也有windows版本的caffe,不過如果你一開始使用了windows下面的caffe,后面學習的過程中,會經常遇到各種錯誤,網上下載的一些源碼、模型也往往不能快速的跑起來,因為貌似caffe的官方只提供了linux版本,而且caffe在不斷的快速迭代更新中,如果不使用原版的話,后面編譯出現什么問題,自己怎么錯的,自己都不知道。本篇博文主要講解快速搭建caffe環境:
電腦系統:ubuntu 14.04
顯卡:GTX 850
在ubuntu下要完整的搭建caffe,個人感覺最難的一步就是cuda的安裝了,特別是對于雙顯卡的電腦來說,很容易黑屏、無法登陸圖形界面,這個我安裝了n久,都沒裝成功,因為我的電腦筆記本雙顯卡,每次裝完cuda就黑屏,網上的教程一大堆,但都中看不中用,導致我重裝了二三十次的系統,最后才成功。這里為了講caffe的安裝,我們先不使用GPU,進行安裝測試,因為沒有GPU我們依舊可以跑caffe,只是速度比較慢而已。
1、安裝caffe所需要的依賴庫
命令:
sudo apt-get install libatlas-base-dev sudo apt-get install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libboost-all-dev libhdf5-serial-dev sudo apt-get install libgflags-dev libgoogle-glog-dev liblmdb-dev protobuf-compiler這些庫要安裝挺久的,請耐心等待。
2、下載caffe。
到github上下載caffe:https://github.com/BVLC/caffe。下載完成后,解壓caffe源碼包。解壓后,我們打開文件,可以看到caffe的源碼包如下:
3、配置Make.config 文件。caffe文件解壓后,文件夾下面有一個Makefile.config.example文件,我們需要對這個文件進行重命名為:Make.config ?。也就是去掉后綴example。然后我們打開這個文件,可以看到如下內容:
然后我們把:#CPU_ONLY:=1,那一行的注釋符號去掉:CPU_ONLY:=1。這是因為我們沒有安裝CUDA,還不能使用gpu,所以我們把配置改為只使用cpu。
4、編譯caffe。
方案一:
(1)在完成Make.config配置后,我們輸入命令:
make all進行caffe源碼編譯.這一步有可能遇到如下錯誤:
caffe/proto/caffe.pb.h: No such file or directory如果出現這個錯誤,那么輸入命令:
protoc src/caffe/proto/caffe.proto --cpp_out=. mkdir include/caffe/proto mv src/caffe/proto/caffe.pb.h include/caffe/proto然后在進行make all 就可以了
(2)編譯完成后,在安裝python接口,輸入命令:
make pycaffe這個如果不使用python接口,調用caffe模型的話也可以不用安裝,不過建議還是搞一下,就一句話的事。完事后,我們會發現caffe源碼目錄下,多了一個build文件,這個文件下面有個tools,打開這個文件夾:
這個文件夾下面的工具可是個好東西啊,以后我們會經常用到這些可執行文件,最常用的就是可執行文件:caffe,我們只要調用這個工具,就可以進行訓練。
(3)接著編譯test文件夾下面的源碼。命令如下:
make test make runtest采用這種方案一般沒問題,不過我在使用c++調用的時候,會使用到鏈接庫:libcaffe.so.1.0.0-rc3,這種方法編譯后沒有生成這個文件;經過google查找,發現采用cmake編譯,才會生成libcaffe.so文件
方案二:直接采用cmake:
mkdir build cd build cmake .. make all -j85、測試階段
安裝完了,自然要測試一下能不能用咯。首先cd到caffe目錄,然后輸入命令:
sh data/mnist/get_mnist.sh sh examples/mnist/create_mnist.sh vim examples/mnist/lenet_solver.prototxt把lenet_solver.prototxt里面的solver_mode 改為 CPU。因為我們還沒裝GPU,暫時只使用CPU就好了。
然后我們運行腳本:
./examples/mnist/train_lenet.sh這個時候,如果成功的話,就會開始跑起來:
說明:如果在使用caffe、或者編譯安裝caffe過程中,出現如下錯誤:
CXX/LD -o .build_release/tools/convert_imageset.bin .build_release/lib/libcaffe.so: undefined reference tocv::imread(cv::String const&, int)'.build_release/lib/libcaffe.so: undefined reference tocv::imencode(cv::String const&, cv::_InputArray const&, std::vector >&, std::vector > const&)'那么請修改上面的Makefile文件(不是Makefile.config):
LIBRARIES += glog gflags protobuf leveldb snappy \ lmdb boost_system hdf5_hl hdf5 m \ opencv_core opencv_highgui opencv_imgproc opencv_imgcodecs也就是在libraries后面,加上opencv的相關庫文件。
接著就開始caffe搞起吧,推薦個caffe模型網站:https://github.com/BVLC/caffe/wiki/Model-Zoo。本來個人不是很喜歡caffe的,就是因為這個網站吸引了我,這個網站可以搞到好多caffe模型、源碼,非常適合于我們學習。
二、在Eclipse中使用編譯調試caffe
1、首先就是安裝Eclipse,然后安裝c++開發插件,這個可以百度搜一下,eclipse下面怎么進行c++開發。
2.導入caffe makefile工程到eclipse (由于是英文版,下面描述也用英文,省的翻譯,方便大家調試)
(1)File→New→Project→C/C++ →Makefile Project with Existing Code.
(2)Create a new Makefile Project from existing code
Projectname:?caffe-master
Existing code location:/home/user/caffe-workspace/caffe-master
Language:?choose C and C++
Toolchain:choose Linux GCC
(3)Then click on caffe-master in Project Explorer (set Window→Open ?Perspective → C/C++).
(4)Now go File → Properties → Run/Debug settings.Click ?New.., and choose C/C++ application
(5)Fill launch configurationproperties
· ? ? ? ?Arguments:
fill ? train –solver=examples/mnist/lenet_solver.prototxt
and change working directory from default to /home/user/caffe-workspace/caffe-master(change to your own directory)
(6)Now you can use debug caffe code: Run-> Debug
三、C++函數調用相關路徑,makefile
CC=g++CXXFLAGS = -O2 -Wall -D__STDC_CONSTANT_MACROS INCLUDE = -I/usr/local/cuda/include -I. -I/usr/local/cuda/include -I/home/hjimce/caffe/include/ -I/home/hjimce/caffe/src/LIBRARY = -L/usr/local/x86_64-linux-gnu/ -lprotobuf \-L/usr/lib/x86_64-linux-gnu/ -lglog \-L/usr/local/cuda/lib64/ -lcudart -lcublas -lcurand \-L/usr/local/lib/ -lm -lpthread -lavutil -lavformat -lavcodec -lswscale -lopencv_core -lopencv_imgproc -lopencv_highgui \-L/usr/lib/python2.7/config-x86_64-linux-gnu/ -lpython2.7 \-L/sur/lib32/ -lrt \-L../../caffe/build/lib/ -lcaffeall:$(CC) $(INCLUDE) $(OBJS) testcpp.cpp -o exercise $(LIBRARY)windows下的caffe環境搭建
最近在ubuntu搞了一個月的caffe,總感覺很不爽,因為ubuntn下面的c++集成開發工具,eclipse用起來沒有vs爽,因為對caffe的函數名不是很熟悉,所以需要借助vs的c++助手。然后前一個月大部分也是調用pycaffe,但是最近感覺需要對caffe的c++函數比較熟悉,才能把自己的能力進一步提高,于是就開始搞起了windows 下的caffe,借助vs的強大功能,快速學習caffe。一開始采用vs2012,最后各種錯誤,最后改成vs2013很容易就編譯成功了。
一、安裝編譯環境
1、 ? ?Visual studio2013
? ? ? ?這個比較簡單,不寫步驟了。
2、python 2.7.6
? ? ? ?為了能使用python調用Caffe,首先需要安裝python,這個也簡單,問度娘很多。注意兩點:
①安裝的時候記得勾選pip,這個工具很nice,可以為你省很多不必要的麻煩;
②安裝完后設置好環境變量。可以再cmd命令中輸入python檢查,如果不報錯,則恭喜。
? ? ? ?接下來利用pip工具安裝這幾個包:numpy、scipy、matplotlib、scikit-image、protobuf
在cmd命令行內輸入:pip install numpy即可,其他幾個類似。
3、matalb
? ? ? ? 這個安裝過程比較慢,也沒什么需要注意的,這里直接略去。
二、安裝caffe
1、caffe源碼包
下載地址:https://github.com/Microsoft/caffe
2、編譯配置
? ? ? 將下載的caffe-windows.zip進行解壓,并進入其根目錄下的windows目錄,把這個CommonSettings.props.example文件復制到源目錄一份,然后重命名為CommonSettings.props。打開并修改其中的配置項。有幾個需要注意的地方:
①是否只是用cpu。如果你的電腦顯卡支持GPU編程(是否支持可以去英偉達官網查詢),那么可以配置為false。否則CpuOnlyBuild = true
②是否使用cudnn加速?
③是否使用python和matalb,根據需要配置
④如果配置了python和matlab,這里需要把修改軟件目錄為自己電腦上的實際安裝目錄
⑤如果有cuda,則把CudaVersion修改為自己電腦的cuda版本
3、項目編譯
? ? ? ? 用Visual studio2013打開caffe-master\windows下的Caffe.sln文件,進去后如下圖(共16個項目):
(1)先生成【libcaffe】,右鍵生成;這里由于別的模塊用到了libcaffe,所以,首先生成libcaffe
(2)再選擇【解決方案Caffe】進行生成,這里時間比較久,因為Nuget會提示下載一些東西,包括boost,opencv2.4.10,gflags,glog,hdf5,lmdb,LevelDB,OpenBLAS,protobuf等預編譯的依賴包。過程有點慢,多等會就ok。下載完成后會在caffe 的同級目錄生成NugetPackages的文件。
? ? 如果中途編譯失敗,出現錯誤,不用緊張,雙擊出現如下對話框,確定然后保存,重新編譯即可。
4、運行
? ? ? ? 右
同時在Build\x64\下生成了很多exe和dll文件。這些工具在后面訓練網絡、測試時候很有用。
三、體驗深度學習
? ? ?終于到這了,我們通過一個caffe自帶的簡單例子來體驗一下caffe的網絡訓練和預測。 ?
? ? ?deep-learning屬于有監督學習的一種,一般步驟分為:準備數據、訓練模型和測試模型。我們下邊也通過這三步來測試一個基于LeNet網絡的學習模型。
1、準備訓練數據
mnist數據集下載地址:http://yann.lecun.com/exdb/mnist/
下載后解壓到caffe-master目錄中的\data\mnist內。分別在cmd下輸入以下命令
.\Build\x64\Release\convert_mnist_data.exe?.\data\mnist\mnist_train_lmdb\train-images.idx3-ubyte?.\data\mnist\mnist_train_lmdb\train-labels.idx1-ubyte?.\examples\mnist\mnist_train_lmdb
.\Build\x64\Release\convert_mnist_data.exe?.\data\mnist\mnist_test_lmdb\t10k-images.idx3-ubyte???.\data\mnist\mnist_test_lmdb\t10k-labels.idx1-ubyte?.\examples\mnist\mnist_test_lmdb
將數據轉化為caffe需要的輸入格式。
2、訓練模型
①修改模型參數
修改examples\mnist\lenet_solver.prototxt,將最后一行改為solver_mode:CPU,
修改examples\mnist\lenet_train_test.prototxt,如下所示,左面為原始的,右面為修改后的。
②訓練模型,訓練完畢后會得到相應的準確率和損失率。
.\Build\x64\Release\caffe.exe?train?--solver=.\examples\mnist\lenet_solver.prototxt
3、測試模型
? ? ? 最終訓練的模型全職文件保存在example\minst\lenet_iter_10000.caffemodel文件中,訓練狀態保存在example\minst\lenet_iter_10000.solverstate中。這兩個文件都是PrototxtBuffer二進制格式。
? ? ? 利用訓練好的模型權值文件可以測試數據集。運行如下命令:
.\Build\x64\Release\caffe.exe test -model examples\mnist\lenet_train_test.prototxt -weights examples\mnist\lenet_iter_10000.caffemodel -iterations 100
到這,整個caffe在windows上就安裝完成了。下一節寫Ubuntu下caffe的配置。
謝謝!
博客有任何錯誤或者疑問,請加VX:1755337994,及時告知!萬分感激!?
總結
以上是生活随笔為你收集整理的Ubuntu18 Win10搭建Caffe训练识别mnist手写数字demo的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python读txt文件报错Unicod
- 下一篇: C++ SVM Opencv3.4实现人