日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程语言 > java >内容正文

java

Java API访问HDFS集群(HA)

發布時間:2025/1/21 java 41 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Java API访问HDFS集群(HA) 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

title: Java API訪問HDFS集群(HA)
date: 2021-06-23 17:06:11
tags:

  • HDFS

hadoopV2版本及以后都是HA架構,active namenode和standby namenode, 當前active namenode 出現問題之后,zkfc會切換standby namenode 為active 狀態保證hadoop集群正常運行,所以java api需要通過配置HA的方式來訪問hdfs集群

對于namenode是HA高可用集群時,客戶端遠程訪問hdfs有兩種實現方法:
(1)將所有namenode ha相關的參數寫入Configuration對象中.
(2)將配置文件core-site.xml和hdfs-site.xml文件復制到項目的目錄下.

使用方式一:

import java.net.URI; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path;public class HADemo {public static void main(String[] args) {// TODO Auto-generated method stubConfiguration conf = new Configuration();conf.set("fs.defaultFS", "hdfs://HACluster");conf.set("dfs.nameservices", "HACluster");conf.set("dfs.ha.namenodes.HACluster", "nn1,nn2");conf.set("dfs.namenode.rpc-address.HACluster.nn1", "namenode1_ip:8020");conf.set("dfs.namenode.rpc-address.HACluster.nn2", "namenode2_ip:8020");conf.set("dfs.client.failover.proxy.provider.HACluster","org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider");try {FileSystem fs = FileSystem.get(new URI("hdfs://HACluster"), conf,"root");boolean b=fs.mkdirs(new Path("/tmp/a"));fs.copyFromLocalFile(new Path("D:\\test\\a.txt"), new Path("/tmp/a/a.txt"));fs.close();} catch (Exception e) {System.out.println(e);}} }

總結

以上是生活随笔為你收集整理的Java API访问HDFS集群(HA)的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。