日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

【Sqoop学习之一】Sqoop简介

發布時間:2024/4/15 编程问答 34 豆豆
生活随笔 收集整理的這篇文章主要介紹了 【Sqoop学习之一】Sqoop简介 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

環境

  sqoop-1.4.6

?

Sqoop:將關系數據庫(oracle、mysql、postgresql等)數據與hadoop數據進行轉換的工具。

兩個版本:兩個版本完全不兼容,sqoop1使用最多:
sqoop1:1.4.x
sqoop2:1.99.x

同類產品:DataX?阿里頂級數據交換工具

一、架構
Sqoop架構非常簡單,是hadoop生態系統的架構最簡單的框架。sqoop1由client端直接接入hadoop,任務通過解析生成對應的maprecue執行。


二、安裝

?

1、上傳解壓

[root@node101 src]# tar -zxvf sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz -C /usr/local [root@node101 local]# mv sqoop-1.4.6.bin__hadoop-2.0.4-alpha sqoop-1.4.6

?

2、配置sqoop-env.sh
注釋掉未安裝服務的相關內容,比如HBase、HCatalog、Accumulo

[root@node101 conf]# cd /usr/local/sqoop-1.4.6/conf && mv sqoop-env-template.sh sqoop-env.sh

?

#HADOOP安裝目錄 export HADOOP_COMMON_HOME=/usr/local/hadoop-2.6.5#HADOOP安裝目錄 #Set path to where hadoop-*-core.jar is available export HADOOP_MAPRED_HOME=/usr/local/hadoop-2.6.5#HBASE安裝目錄 #set the path to where bin/hbase is available #export HBASE_HOME=#HIVE安裝目錄 #Set the path to where bin/hive is available #export HIVE_HOME=#ZOOKEEPER安裝目錄 #Set the path for where zookeper config dir is #export ZOOCFGDIR=

?


3、這里連接關系數據庫是mysql 需要依賴mysql jar包

[root@node101 src]# cp /usr/local/src/mysql-connector-java-5.1.26-bin.jar /usr/local/sqoop-1.4.6/lib/

?

4、配置環境變量

export SQOOP_HOME=/usr/local/sqoop-1.4.6

?

5、驗證是否安裝成功
sqoop-version 或者 sqoop version

[root@node101 conf]# sqoop version Warning: /usr/local/sqoop-1.4.6/../hbase does not exist! HBase imports will fail. Please set $HBASE_HOME to the root of your HBase installation. Warning: /usr/local/sqoop-1.4.6/../hcatalog does not exist! HCatalog jobs will fail. Please set $HCAT_HOME to the root of your HCatalog installation. Warning: /usr/local/sqoop-1.4.6/../accumulo does not exist! Accumulo imports will fail. Please set $ACCUMULO_HOME to the root of your Accumulo installation. Warning: /usr/local/sqoop-1.4.6/../zookeeper does not exist! Accumulo imports will fail. Please set $ZOOKEEPER_HOME to the root of your Zookeeper installation. 19/07/01 16:26:50 INFO sqoop.Sqoop: Running Sqoop version: 1.4.6 Sqoop 1.4.6 git commit id c0c5a81723759fa575844a0a1eae8f510fa32c25 Compiled by root on Mon Apr 27 14:38:36 CST 2015

?

?

參考:

用戶手冊
Sqoop學習之路

轉載于:https://www.cnblogs.com/cac2020/p/11114482.html

總結

以上是生活随笔為你收集整理的【Sqoop学习之一】Sqoop简介的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。