日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

CHD+CM-1 安装

發布時間:2023/12/18 编程问答 32 豆豆
生活随笔 收集整理的這篇文章主要介紹了 CHD+CM-1 安装 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

一、概述(不同的系統對應不同的CDH和CM版本)

  • 系統:centos6
  • CDH(CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel):是Hadoop眾多分支中的一種,包括Hive、Hbase、Flume、Kafka、Spark等等。http://archive.cloudera.com/cdh5/parcels/5.4.0/
  • CM(cloudera-manager-el6-cm5.4.3_x86_64.tar):是一個管理CDH的端到端的應用:管理、監控、診斷、集成。http://archive.cloudera.com/cm5/cm/5/
  • MySql版本:本案5.5.62
  • JDK版本:jdk-7u67-linux-x64?

二、架構

? ??

  • Server:管理控制臺服務器和應用程序邏輯,負責軟件安裝、配置,啟動和停止服務,管理服務運行的集群。
  • Agent:安裝在每臺主機上,負責啟動和停止進程、配置、監控主機
  • Management Service:由一組角色組成的服務,執行各種件事、報警和報告功能
  • Database:數據源保存的地方
  • Cloudera Repository:軟件由Cloudera 管理分布存儲庫
  • Clients:是用于與服務器進行交互的接口
  • Admin Console:基于Web的用戶界面與管理員管理集群和Cloudera管理
  • Api:與開發人員創建自定義的Cloudera Manager應用程序的API

三、前期準備(node1、node2都需要)

  • 配置hosts
  • 網絡配置:修改hostname。然后通過 service network restart 重啟網絡服務生效
vi /etc/sysconfig/network
  • SSH免密碼登錄
# node1 ssh-keygen ssh-copy-id -i ~/.ssh/id_rsa.pub root@node2# node2 ssh-keygen ssh-copy-id -i ~/.ssh/id_rsa.pub root@node1
  • 關閉防火墻(用于測試,正式環境打開相應端口
  • 關閉SELINUX(重啟后生效):修改配置文件/etc/selinux/config,將SELINUX=enforcing改為SELINUX=disabled
  • 查看SELINUX狀態:/usr/sbin/sestatus –v

四、安裝基礎軟件

  • 設置node1、node2時間同步(node1、node2)
# 安裝 yum install ntp # 設置同步 ntpdate -u ntp.sjtu.edu.cn # 開機啟動 chkconfig ntpd on
  • 安裝jdk-7u67-linux-x64(node1、node2)
  • 安裝mysql5.5(node1)
  • 安裝依賴包(node1、node2)
yum install chkconfig bind-utils psmisc libxslt zlib sqlite cyrus-sasl-plain cyrus-sasl-gssapi fuse portmap fuse-libs redhat-lsb

五、Cloudera Manager Server&Agent安裝

1、安裝Cloudera Manager Server&Agent(node1、node2)

  • 拷貝cloudera-manager-el6-cm5.4.3_x86_64.tar.gz到所有Server(node1)、Agent(node2)節點
  • 創建cm目錄:?/opt/cloudera-manager,并解壓到當前目錄

2、創建用戶cloudera-scm,所有節點(node1、node2)

useradd --system --home=/opt/cloudera-manager/cm-5.4.3/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
  • 注意:用戶名必須是:cloudera-scm

3、?配置CM Agent(node1、node2)

vi /opt/cloudera-manager/cm-5.4.3/etc/cloudera-scm-agent/config.ini # Hostname of the CM server. server_host=node1

4、配置CM Server的數據庫(node1)

  • 將mysql-connector-java-5.1.26-bin.jar拷貝到??/usr/share/java/ 下 并修改名稱為mysql-connector-java.jar。必須叫:mysql-connector-java.jar
  • 創建一個cdh的用戶(可選)?
GRANT ALL PRIVILEGES ON *.* to 'cdh'@'%' identified by '123456' with grant option; flush privileges;
  • 初始化元數據:
cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema ./scm_prepare_database.sh mysql -h node1 -ucdh -p123456 --scm-host node1 scm scm 123456
  • 數據庫類型、數據庫、數據庫服務器、用戶名、密碼、cm server服務器

5、在Server創建parcel-repo目錄(node1)

# 創建目錄:必須是這個目錄 mkdir -p /opt/cloudera/parcel-repo # 授權到之前創建的用戶:cloudera-scm chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
  • 將下載好的文件(CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel、CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha、manifest.json)拷貝到該目錄下。

6、在所有Agent節點創建parcels目錄(node1、node2)

# 創建目錄:必須是這個目錄 mkdir -p /opt/cloudera/parcels # 授權到之前創建的用戶:cloudera-scm chown cloudera-scm:cloudera-scm /opt/cloudera/parcels

7、啟動CM Server服務(node1)

cd /opt/cloudera-manager/cm-5.4.3/etc/init.d ./cloudera-scm-server start

8、啟動CM?Agents服務(node1、node2)

cd /opt/cloudera-manager/cm-5.4.3/etc/init.d ./cloudera-scm-agent start

9、訪問:node1:7180,用戶名密碼:admin、admin

? ??

總結

以上是生活随笔為你收集整理的CHD+CM-1 安装的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。