日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

ES中的RollUp概念

發布時間:2024/1/23 编程问答 46 豆豆
生活随笔 收集整理的這篇文章主要介紹了 ES中的RollUp概念 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

在最新的ES中出現了一個X特性,卷數據(Data Rollup,不知道如何翻譯,姑且這么稱呼吧)。這個卷數據是個什么概念呢?

如果做過監控(monitoring)的都知道,監控實際上是個大數據問題,這些”大“之一就是大量:一個復雜的系統可能每天面臨上TB的原始數據;雖然監控系統所用的數據庫都會有一些高效的壓縮功能,但最終磁盤上存儲的量仍然會按每天數十數百G增加。因此監控系統中數據的存留時間和策略(retention period & policy)始終是個核心問題。正是為了更好的解決這個問題,ES提出了卷數據這個概念(新瓶裝老酒了):把超過指定時間段的數據按預定的方式進行聚合,從而在一個更粗的粒度下能提供更長時間的數據存留以供查詢和處理。被卷處理后的數據可以根據實際情況被放到更低成本的存儲中以供不時之需或直接拋棄(當然也就從ES的index中去掉了)。

ES的卷數據有如下一些重要特征

  • 卷數據的生成使用的是ES查詢的標準語法,這個降低了卷數據的生成和維護難度(用戶不用單獨學習特殊的語法和語義來完成這個了)。
  • 卷數據可以同時和當前活躍(live)數據進行查詢。ES會把聚合的數據存放到一個獨立的索引(index)中,在查詢時當前活躍數據的索引和這個卷數據的索引都會被訪問并自動返回合并后的查詢結果。比如如果我們把一個月前的數據進行卷數據處理,ES的查詢會同時參照卷數據和最近一個月的數據返回一個完整的查詢結果(即:如果我們查詢最近三個月的數據,最近的一個月數據會來自于活躍數據,而前兩個月的數據則來自于卷數據)。
  • 卷數據的查詢時間間隔粒度是可變的:我們在生成卷數據時可能指定卷數據按天或小時生成,但我們查詢時時間間隔粒度可以是任何大于這個粒度的,ES會自動根據指定的粒度進行相應的轉化或聚合返回正確的查詢結果。
  • 使用卷數據可以帶來明顯的空間上的節約,但它也導致數據上的粒度或精度收到明顯的損失。更重要的是生成卷數據的方式是預先指定的,如果在后期查詢時發現所需要的數據在內容和格式上有缺失,因為原始數據已經被清除可能導致業務上的限制;此時如果將原始數據保存到了更便宜的存儲介質上,可以將他們重新加載出來后用新的格式對數據進行卷數據處理即可。

    總結

    以上是生活随笔為你收集整理的ES中的RollUp概念的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。