Hive动态分区 参数配置及语法
生活随笔
收集整理的這篇文章主要介紹了
Hive动态分区 参数配置及语法
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
Hive本身是不支持動態分區的..
但動態分區是真的方便啊..不然手動維護要累死..按日期甚至小時來分區時動輒就好幾千上萬的分區..手動到哪一年去..?
想要用動態分區要先做一些設置來修改默認的配置..
set hive.exec.dynamic.partition=true;(可通過這個語句查看:set hive.exec.dynamic.partition;) set hive.exec.dynamic.partition.mode=nonstrict; SET hive.exec.max.dynamic.partitions=100000;(如果自動分區數大于這個參數,將會報錯) SET hive.exec.max.dynamic.partitions.pernode=100000;可以直接把上述設置項在控制臺中運行一下..以后就可以自由動態分區了..
建立分區表的語法.
Drop table table_name; --先刪除表 沒有則直接建表了 CREATE TABLE table_name --創建表 (col1 string, col2 date, col3 double) partitioned by (datekey date) --可以多個字段的組合分區 ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' Stored AS TEXTFILE;插入數據..
INSERT INTO TABLE table_NamePARTITION (DateKey)SELECT col1,col2,col3,DateKey FROM otherTableWHERE DATEKEY IN ('2017-02-26','2013-06-12','2013-09-24')GROUP BY col1,col2,col3,DateKey DISTRIBUTE BY DateKey刪除分區:
ALTER TABLE table_Name DROP PARTITION (Datekey='2016-05-05');以上為整理的部分關于Hive分區的資料..歡迎取閱..
?
轉載于:https://www.cnblogs.com/iiwen/p/6479607.html
創作挑戰賽新人創作獎勵來咯,堅持創作打卡瓜分現金大獎總結
以上是生活随笔為你收集整理的Hive动态分区 参数配置及语法的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: phpstorm如何进行文件或者文件夹重
- 下一篇: 【lucene系列学习二】Lucene实