python使用spark-sql读取数据并可视化_使用Spark SQL读取HBase上的数据
近日,由華為團(tuán)隊(duì)開(kāi)發(fā)的
1、基于部分評(píng)估技術(shù),該項(xiàng)目具有強(qiáng)大的數(shù)據(jù)剪枝和智能掃描特點(diǎn);
2、支持自定義過(guò)濾規(guī)則、協(xié)處理器等以便支持超低延遲的處理;
3、支持SQL、DataFrame;
4、支持更多的SQL(比如二級(jí)索引、布隆過(guò)濾、主鍵、批量加載以及更新);
5、支持和其他數(shù)據(jù)源進(jìn)行整合;
6、支持Python/Java/Scala;
7、支持
引入依賴
1、如果你使用的是spark-shell,可以如下操作: > $SPARK_HOME/bin/spark-shell --packages Huawei-Spark:Spark-SQL-on-HBase:1.0.0
2、如果你使用SBT的話,在你們build.sbt文件加入一下依賴: spDependencies += "Huawei-Spark/Spark-SQL-on-HBase:1.0.0"
或者 resolvers += "Spark Packages Repo" at "http://dl.bintray.com/spark-packages/maven"
libraryDependencies += "Huawei-Spark" % "Spark-SQL-on-HBase" % "1.0.0"
3、如果使用的是Maven,請(qǐng)?jiān)趐om.xml文件加入一下依賴:
Huawei-Spark
Spark-SQL-on-HBase
1.0.0
SparkPackagesRepo
http://dl.bintray.com/spark-packages/maven
項(xiàng)目地址以及如何使用
總結(jié)
以上是生活随笔為你收集整理的python使用spark-sql读取数据并可视化_使用Spark SQL读取HBase上的数据的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: c语言与python通信_C和Pytho
- 下一篇: websocket python爬虫_p