《信息存储理论》笔记
| 關(guān)鍵字<?xml:namespace prefix = o ns = "urn:schemas-microsoft-com:office:office" /> | 詳細說明 |
| 磁盤響應(yīng)時間及優(yōu)化 | 尋道(毫秒級)+旋轉(zhuǎn)(毫秒級)+傳輸(微秒級) 提高磁盤性能的重點:在于減少尋道時間,所以RAID對隨機讀寫的性能提高很小。 |
| 提高外存儲系統(tǒng)性能 | 1,? 從磁盤角度:減少尋道時間(提高移臂速度,減小盤片直徑,多磁頭),減少旋轉(zhuǎn)時間(提高轉(zhuǎn)速,多磁頭),提高數(shù)據(jù)傳輸率(接口速率) 2,? 優(yōu)化調(diào)度算法(請求的合并,聚散IO) 3,? Cache,prefetch 4,? 存儲設(shè)備的并行(RAID,分布式存儲) |
| RAID | 1,? 三個出發(fā)點:性能,容量,可靠性 2,? 軟RAID, 硬RAID(是否占用主機資源, md模塊, RAID卡) 3,? RAID的讀寫,并發(fā)等由分條(各個磁盤上叫段)大小決定。 當(dāng)段較小時(如RAID3),上層每次請求涉及到每個磁盤(或大部分磁盤),難以實現(xiàn)并發(fā),當(dāng)這樣數(shù)據(jù)讀寫可以多個盤同時進行(通常主軸同步,節(jié)省的是傳輸時間),連續(xù)讀寫的時,節(jié)省尋道時間,能極大的提高性能,隨機讀寫時,尋道時間得不到優(yōu)化,單單節(jié)省數(shù)據(jù)傳輸時間對性能影響不大。 當(dāng)段較大時(如RAID5),上次每次請求設(shè)計很少的磁盤,這樣上層多個請求就能實現(xiàn)并發(fā)。 4,RAID5的RCW(重構(gòu)寫)與RMW(讀改寫),后者適合于小寫 |
| 磁盤的三種狀態(tài) | 1,? Active 13W+? (正在進行數(shù)據(jù)服務(wù)) 2,? Idle? 10W+?? (空閑) 3,? Standby 2W+? (休眠) |
| 系統(tǒng)節(jié)能原理及策略 | 1,? 如果有充分的時間供休息,就去休息(如系統(tǒng)的休眠狀態(tài)) 2,? 如果有很多機會,但每次休息時間都很短,則充分利用短的時間干正事(提高performance/energy???)或調(diào)班以集中休息時間(省去switch時間) 策略: 1,? 負載預(yù)測:在任務(wù)到來前,由standby—>active,節(jié)能且不影響系統(tǒng)服務(wù),如基于歷史信息的預(yù)測) 2,? 降級:在不影響系統(tǒng)正常工作的情況下,把等待時間變成工作時間,如降低CPU頻率,降低硬盤轉(zhuǎn)速 3,? 讓更少的部件active去完成任務(wù)(將資源轉(zhuǎn)移) A gear-shifting power-aware RAID |
| Power-aware policy | Power-aware caching, power-aware IO scheduling(給IO加上是否可以延時的屬性,以延長休息時間)?? 將驅(qū)動器分組管理,分為active drivers, passive drivers |
| 冗余的數(shù)據(jù)+ 空閑的資源 | 縱向冗余:cache??? 橫向冗余:RAID,分布式系統(tǒng)副本, 備份,快照,CDP? Anything is a trade-off of time and space? |
| RAID重建 | 寫時系統(tǒng)掉電,磁盤損壞等會導(dǎo)致RAID中某個或多個磁盤的數(shù)據(jù)不可用。 RAID寫的兩種方式:RCW, RMW, 后者必須保證磁盤上原有的數(shù)據(jù)及校驗數(shù)據(jù)是正確的,即必須進行初始化。 RAID初始化方法:全寫0,并計算校驗寫入校驗盤 |
| 重建優(yōu)化策略 | 1,? 基于熱點的重建(PRO):熱點數(shù)據(jù)優(yōu)先重建,減少磁頭移動時間,減少IO請求的延遲,加快重建速度 2,? 基于日志的重建:初始化全部數(shù)據(jù)為0,存儲空間的空閑達50%,用日志記錄修改過的條帶,重建的時候只重建修改過的部分 3,? 基于IO負載重定向(workout):將所有的寫和熱點的讀重定向到代理盤 |
| NFS與CIFS共存 | 1,? 添加windows上的NFS客戶端軟件 2,? 在NFS上仿真CIFS服務(wù)器(如samba) |
| FC | 物理層: 1,1-8Gb/s的傳輸速度 2,銅線,光纖都可做為其傳輸介質(zhì) 鏈路層: 1,? 字符編碼及FC幀結(jié)構(gòu) 2,? 鏈路層流量控制(端到端,緩存到緩存) 3,? MTU可到2112字節(jié),而以太網(wǎng)MTU為1500字節(jié) 網(wǎng)絡(luò)層: 1,? 拓撲(Arbitral Loop,一個loop最多接128個節(jié)點),P2P ,Fabric(交換式) 2,? 尋址:WWNN,WWPN, Fabric ID(Domain ID, Area ID, Port ID) 傳輸層: 1,? 對上層的數(shù)據(jù)流進行segment,區(qū)分上層應(yīng)用程序 2,? 適配上層協(xié)議 ? 七種端口類型: 1,? N端口:FC終端設(shè)備(交換式)端口 2,? F端口:FC交換機端口 3,? L端口:仲裁環(huán)終端端口 4,? NL端口:具有N和L端口的雙重能力 5,? Fl端口:? 具有F和L端口的雙重能力 6,? E端口: 連接交換機與交換機間的端口(級聯(lián)) 7,? G端口:萬能端口 |
| Panasas | 減少RAID重建方法: 1,? 減小校驗組(額外空間開銷與在線重建時間的折中) 2,? 分散校驗組元素放置 3,? 并行重建 ???? Panasas將長度為4的校驗組分散到8個盤(每個校驗組的數(shù)據(jù)不會重復(fù)出現(xiàn)在一個盤),以空間換時間,以提高整體的效率。 ? 上層應(yīng)用決定底層架構(gòu),參數(shù),如分塊大小(GFS為64M,Panasas為64K) ? ? Panasas特性: 1,? 并行冗余OSD 2,? Per-file RAID(根據(jù)文件大小及可靠性要求的不同采用不同的RAID方式) 3,? 動態(tài)負載均衡(創(chuàng)建時條帶化文件,主動的數(shù)據(jù)遷移) 4,? 支持12000+ clients,100+ MDSs, 1000+ OSDs 5,? Client-driven RAID 客戶端計算校驗數(shù)據(jù),減小服務(wù)器負載 6,? 多級元數(shù)據(jù)管理 塊級:負責(zé)對象到物理塊的映射 文件級:負責(zé)文件到對象的映射 系統(tǒng)級:數(shù)據(jù)方式管理 ??????? |
?
轉(zhuǎn)載于:https://www.cnblogs.com/yunnotes/archive/2013/04/19/3032518.html
總結(jié)
以上是生活随笔為你收集整理的《信息存储理论》笔记的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 国字脸的女生最适合什么发型短发(国字脸的
- 下一篇: JAVA环境变量