免安装免配置 还免费的Spark 集群 --Databrickes Spark Clould
http://ihoge.cn/2018/Databrickes.html
摘要:本文帶你暢游Databrickes Spark Clould云服務(wù)。小白迅速上手大數(shù)據(jù)Spark開發(fā)環(huán)境,從此告別集群Bug的煩惱,徹底解放物理機(jī)負(fù)擔(dān)讓你隨時(shí)隨地想Run就Run��。
目錄:
Databrickes是個(gè)啥?
YouTube簡(jiǎn)介,自備云梯
Databricks 屬于 Spark 的商業(yè)化公司,由美國伯克利大學(xué) AMP 實(shí)驗(yàn)室著名的 Spark 大數(shù)據(jù)處理系統(tǒng)多位創(chuàng)始人聯(lián)合創(chuàng)立。Databricks 致力于提供基于 Spark 的云服務(wù),可用于數(shù)據(jù)集成,數(shù)據(jù)管道等任務(wù)。
Databricks 公司的云解決方案由三部分組成:Databricks 平臺(tái)、Spark 和 Databricks 工作區(qū)。該產(chǎn)品背后的理念是提供處理數(shù)據(jù)的單獨(dú)空間,不受托管環(huán)境和 Hadoop 集群管理的影響,整個(gè)過程在云中完成。該產(chǎn)品有幾個(gè)核心概念:由 Notebooks 提供一種與數(shù)據(jù)交互并構(gòu)建圖形的方法,當(dāng)用戶了解了顯示數(shù)據(jù)的方式時(shí),就可以開始構(gòu)建主控面板以監(jiān)視某些類型的數(shù)據(jù)。最后,用戶可以通過該平臺(tái)的任務(wù)啟動(dòng)器來規(guī)劃 Apache Spark 的運(yùn)行時(shí)間。
說白了就是Databricks撈錢的,老是開源spark 也不收你錢,大家也要吃飯不是,干脆搞個(gè) spark on cloud,服務(wù)懶人或小公司,你既不用搭建集群也不用維護(hù),交點(diǎn)兒錢直接用他們提供的在線集群。當(dāng)然還有一個(gè)作用,推廣普及spark ,所以也就有了Community版,即免費(fèi)版
Databricks相當(dāng)于給你了一個(gè)在線spark 集群,即:Spark online(聽著怎么這么像網(wǎng)游 (⊙﹏⊙)b),我等尚處spark初級(jí)階段的小白們剛好可以用他們提供的免費(fèi)版來學(xué)習(xí),省去了搭建和維護(hù)配置的過程,用來學(xué)習(xí)或溫習(xí)Spark API真是完美!
(筆者比較懶,下面Databricks Spark Cloud都用DSC代替��)
話不多說,開搞!!!
注冊(cè)Databricks
官網(wǎng)直達(dá)
Do you want to TRY DATACRICKS FREE?
Yeah, click here!
下面就是注冊(cè)頁面,不再啰嗦。注意的是左下角要進(jìn)行人際身份驗(yàn)證,網(wǎng)絡(luò)不好的童鞋請(qǐng)自備云梯��。然后驗(yàn)證郵箱,點(diǎn)擊鏈接到登錄界面:
��If you don't want to pay for money, pelese click here!
搭建云上Spark集群環(huán)境
入門指南
這貨長這樣~界面清爽顏值高,功能齊全效率高。
基本使用流程:
沒辦法,筆者已經(jīng)有一個(gè)集群在運(yùn)行了,作為免費(fèi)用戶只能擁有一個(gè)活動(dòng)集群,或者升級(jí)高級(jí)用戶��
2.創(chuàng)建nootebook
選擇集群,選擇語言,新建項(xiàng)目,凱擼~
創(chuàng)建筆記、加載依賴資源、創(chuàng)建文件夾
3.創(chuàng)建Table
上傳本地?cái)?shù)據(jù),速度有點(diǎn)慢,耐心等待一會(huì)~��
任務(wù)流程可視化、數(shù)據(jù)可視化
自動(dòng)生成任務(wù)階段流程,生成DAG。
豐富的畫圖工具,只需點(diǎn)點(diǎn)點(diǎn)即可完成高顏值圖表。
其他操作:
下面是重點(diǎn)!!
下面是重點(diǎn)!!
下面是重點(diǎn)!!
這里提供了豐富的適合不同場(chǎng)景的訓(xùn)練數(shù)據(jù)、源代碼及簡(jiǎn)介。
只需找到
即可快速導(dǎo)入到工作臺(tái)。只可惜自己英文太爛,啃的很慢������
DSC不僅提供了方便高可用的云集群服務(wù),而且提供了豐富的學(xué)習(xí)資料,對(duì)像我等來說簡(jiǎn)直是完美的產(chǎn)品。感謝各位大佬給我們提供了如此便捷的學(xué)習(xí)環(huán)境和資源,Life is short,只爭(zhēng)朝夕!
油管視頻自備云梯
原文地址,轉(zhuǎn)載注明出處http://ihoge.cn/2018/Databrickes.html
人工智能、機(jī)器學(xué)習(xí)、大數(shù)據(jù)更多精彩內(nèi)容請(qǐng)點(diǎn)擊
總結(jié)
以上是生活随笔為你收集整理的免安装免配置 还免费的Spark 集群 --Databrickes Spark Clould的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 弹性式分布数据集RDD——Pyspark
- 下一篇: Spark的基本架构