日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

hadoop上lzop的安装

發布時間:2023/12/15 编程问答 28 豆豆
生活随笔 收集整理的這篇文章主要介紹了 hadoop上lzop的安装 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

?lzop是開源的壓縮算法框架。具體的介紹這里不再贅述,請去網上搜索。本文書寫如何在ubuntu上安裝lzop.

?所需軟件:gcc、g++,Apache ant,lzop,lzo,hadoop-lzo.gcc和g++ ubuntun上已經集成的有。

?安裝lzo:

? ?hadoop@ubuntu:~$wget?http://www.oberhumer.com/opensource/lzo/download/lzo-2.06.tar.gz

? ?hadoop@ubuntu:~$ tar -zxvf lzo-2.06.tar.gz
? ?hadoop@ubuntu:~/lzo-2.06$./configure --enable-shared
? ?hadoop@ubuntu:~/lzo-2.06$ make &&sudo make install

? ?在32位系統機器內將安裝后的庫文件復制到/usr/lib目錄下

? ?hadoop@ubuntu:~/lzo-2.06$cp /usr/local/lib/liblzo2* /usr/lib

?安裝lzop:

? ?hadoop@ubuntu:~$sudo apt-get install lzop

?安裝配置ant:

? ?hadoop@ubuntu:~$sudo apt-get install ant

?下載hadoop-lzo:

? ?下載地址:https://github.com/toddlipcon/hadoop-lzo

? ? 解壓壓縮包,進入解壓文件夾內,運行 ant package?

? ? 如果報找不到hadoop相關類的錯誤,修改build.xml 中

? ??<javah classpath="${build.classes}"為<javah classpath="/usr/hadoop-1.1.1/hadoop-core-1.1.1.jar:${build.classes}" 然后再運行。記著你自己安裝的hadoop-core jar包的路勁,別粘成我的了啊!

修改hadoop配置:

? ?把你編譯的hadoop-lzo-0.4.15.jar(在build文件夾下)拷貝到 $HADOOP_HOME/lib下,同時把hadoop-lzo-0.4.15/lib/native下的jar包拷貝到 $HADOOP_HOME/lib/native下

? 修改core-site.xml

  • <property>?
  • <name>mapred.compress.map.output</name>?
  • <value>true</value>?
  • </property>?
  • <property>?
  • <name>mapred.map.output.compression.codec</name>?
  • <value>com.hadoop.compression.lzo.LzoCodec</value>?
  • </property>?
  • <property>?
  • <name>io.compression.codecs</name>?
  • <value>org.apache.hadoop.io.compress.GzipCodec,?
  • org.apache.hadoop.io.compress.DefaultCodec,?
  • org.apache.hadoop.io.compress.BZip2Codec,?
  • com.hadoop.compression.lzo.LzoCodec,?
  • com.hadoop.compression.lzo.LzopCodec,?
  • org.apache.hadoop.io.compress.SnappyCodec</value>?
  • </property>?
  • <property>?
  • <name>io.compression.codec.lzo.class</name>?
  • <value>com.hadoop.compression.lzo.LzoCodec</value>?
  • </property>?
  • 然后重新運行hadoop,即安裝成功。

    轉載于:https://blog.51cto.com/wzxwzx2011/1111526

    總結

    以上是生活随笔為你收集整理的hadoop上lzop的安装的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。