hadoop之blockreport
生活随笔
收集整理的這篇文章主要介紹了
hadoop之blockreport
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
工作中有一套hadoop集群,該集群也作為對外的nginx服務,用來存儲了大量的圖片。
近期nginx訪問經常出現超時訪問的情況。
查看log,發現原來的report 頻率為1小時一次,但是由于report 需要收集datanode 上的block使用情況,(該機的block達到上百萬級別),會造成讀和寫的阻塞。
解決方法:
<property>
? <name>dfs.blockreport.intervalMsec</name>
? <value>86400000</value>
? <description>Determines block reporting interval in milliseconds.</description>
</property>
修改hdfs-site.xml中 blockreport 的間隔參數 。
然后重啟datanode?
?./hadoop-daemon.sh stop datanode
?./hadoop-daemon.sh start datanode
hadoop 可能還是不適合做這種大量存儲小圖片的方案啊,要不然的話得做些代碼級別的優化。
轉載于:https://www.cnblogs.com/jinjin666/archive/2013/01/29/2881627.html
總結
以上是生活随笔為你收集整理的hadoop之blockreport的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 一行语句让你的浏览器变成记事本
- 下一篇: java学习(七)java中抽象类及 接