探索 Linux 内存模型--转
引用:http://www.ibm.com/developerworks/cn/linux/l-memmod/index.html
理解 Linux 使用的內存模型是從更大程度上掌握 Linux 設計和實現的第一步,因此本文將概述 Linux 內存模型和管理。
Linux 使用的是單一整體式結構 (Monolithic),其中定義了一組原語或系統調用以實現操作系統的服務,例如在幾個模塊中以超級模式運行的進程管理、并發控制和內存管理服務。盡管出于兼容性考慮,Linux 依然將段控制單元模型 (segment control unit model)?保持一種符號表示,但實際上已經很少使用這種模型了。
與內存管理有關的主要問題有:
- 虛擬內存的管理,這是介于應用程序請求與物理內存之間的一個邏輯層。
- 物理內存的管理。
- 內核虛擬內存的管理/內核內存分配器,這是一個用來滿足對內存的請求的組件。這種對內存的請求可能來自于內核,也可能來自于用戶。
- 虛擬地址空間的管理。
- 交換和緩存。
本文探討了以下問題,可以幫助您從操作系統中內存管理的角度來理解 Linux 的內幕:
- 段控制單元模型,通常專用于 Linux
- 分頁模型,通常專用于 Linux
- 物理內存方面的知識
雖然本文并沒有詳細介紹 Linux 內核管理內存的方法,但是介紹了有關整個內存模型的知識以及系統的尋址方式,這些介紹可為您進一步的學習提供一個框架。本文重點介紹的是 x86 架構,但本文中的知識對于其他硬件實現同樣適用。
x86 內存架構
在 x86 架構中,內存被劃分成 3 種類型的地址:
- 邏輯地址 (logical address)?是存儲位置的地址,它可能直接對應于一個物理位置,也可能不直接對應于一個物理位置。邏輯地址通常在請求控制器中的信息時使用。
- 線性地址 (linear address)?(或稱為?平面地址空間)是從 0 開始進行尋址的內存。之后的每個字節都可順序使用下一數字來引用(0、1、2、3 等),直到內存末尾為止。這就是大部分非 Intel CPU 的尋址方式。Intel? 架構使用了分段的地址空間,其中內存被劃分成 64KB 的段,有一個段寄存器總是指向當前正在尋址的段的基址。這種架構中的 32 位模式被視為平面地址空間,不過它也使用了段。
- 物理地址 (physical address)?是使用物理地址總線中的位表示的地址。物理地址可能與邏輯地址不同,內存管理單元可以將邏輯地址轉換成物理地址。
CPU 使用兩種單元將邏輯地址轉換成物理地址。第一種稱為分段單元 (segmented unit),另外一種稱為分頁單元 (paging unit)。
圖 1. 轉換地址空間使用的兩種單元
下面讓我們來介紹一下段控制單元模型。
回頁首
段控制單元模型概述
這種分段模型背后的基本思想是將內存分段管理。從本質上來說,每個段就是自己的地址空間。段由兩個元素構成:
- 基址 (base address)?包含某個物理內存位置的地址
- 長度值 (length value)?指定該段的長度
分段地址還包括兩個組件 ——?段選擇器 (segment selector)?和段內偏移量 (offset into the segment)。段選擇器指定了要使用的段(即基址和長度值),而段內偏移量組件則指定了實際內存位置相對于基址的偏移量。實際內存位置的物理地址就是這個基址值與偏移量之和。如果偏移量超過了段的長度,系統就會生成一個保護違例錯誤。
上述內容可小結如下:
分段單元可以表示成 -> 段: 偏移量 模型 也也可表示成 -> 段標識符: 偏移量每個段都是一個 16 位的字段,稱為段標識符 (segment identifier)?或段選擇器 (segment selector)。x86 硬件包括幾個可編程的寄存器,稱為?段寄存器 (segment register),段選擇器保存于其中。這些寄存器為?cs(代碼段)、ds(數據段)和?ss(堆棧段)。每個段標識符都代表一個使用 64 位(8 個字節)的段描述符 (segment descriptor)?表示的段。這些段描述符可以存儲在一個 GDT(全局描述符表,global descriptor table)中,也可以存儲在一個 LDT(本地描述符表,local descriptor table)中。
圖 2. 段描述符和段寄存器的相互關系
每次將段選擇器加載到段寄存器中時,對應的段描述符都會從內存加載到相匹配的不可編程 CPU 寄存器中。每個段描述符長 8 個字節,表示內存中的一個段。這些都存儲到 LDT 或 GDT 中。段描述符條目中包含一個指針和一個 20 位的值(Limit 字段),前者指向由 Base 字段表示的相關段中的第一個字節,后者表示內存中段的大小。
其他某些字段還包含一些特殊屬性,例如優先級和段的類型(cs?或?ds)。段的類型是由一個 4 位的 Type 字段表示的。
由于我們使用了不可編程寄存器,因此在將邏輯地址轉換成線性地址時不引用 GDT 或 LDT。這樣可以加快內存地址的轉換速度。
段選擇器包含以下內容:
- 一個 13 位的索引,用來標識 GDT 或 LDT 中包含的對應段描述符條目
- TI (Table Indicator) 標志指定段描述符是在 GDT 中還是在 LDT 中,如果該值是 0,段描述符就在 GDT 中;如果該值是 1,段描述符就在 LDT 中。
- RPL (request privilege level) 定義了在將對應的段選擇器加載到段寄存器中時 CPU 的當前特權級別。
由于一個段描述符的大小是 8 個字節,因此它在 GDT 或 LDT 中的相對地址可以這樣計算:段選擇器的高 13 位乘以 8。例如,如果 GDT 存儲在地址 0x00020000 處,而段選擇器的 Index 域是 2,那么對應的段描述符的地址就等于 (2*8) + 0x00020000。GDT 中可以存儲的段描述符的總數等于 (2^13 - 1),即 8191。
圖 3 展示了從邏輯地址獲得線性地址。
圖 3. 從邏輯地址獲得線性地址
那么這在 Linux 環境下有什么不同呢?
回頁首
Linux 中的段控制單元
Linux 對這個模型稍微進行了修改。我注意到 Linux 以一種受限的方法來使用這種分段模型(主要是出于兼容性方面的考慮)。
在 Linux 中,所有的段寄存器都指向相同的段地址范圍 —— 換言之,每個段寄存器都使用相同的線性地址。這使 Linux 所用的段描述符數量受限,從而可將所有描述符都保存在 GDT 之中。這種模型有兩個優點:
- 當所有的進程都使用相同的段寄存器值時(當它們共享相同的線性地址空間時),內存管理更為簡單。
- 在大部分架構上都可以實現可移植性。某些 RISC 處理器也可通過這種受限的方式支持分段。
圖 4 展示了對模型的修改。
圖 4. 在 Linux 中,段寄存器指向相同的地址集
段描述符
Linux 使用以下段描述符:
- 內核代碼段
- 內核數據段
- 用戶代碼段
- 用戶數據段
- TSS 段
- 默認 LDT 段
下面詳細介紹這些段寄存器。
GDT 中的內核代碼段 (kernel code segment)?描述符中的值如下:
- Base = 0x00000000
- Limit = 0xffffffff (2^32 -1) = 4GB
- G(粒度標志)= 1,表示段的大小是以頁為單位表示的
- S = 1,表示普通代碼或數據段
- Type = 0xa,表示可以讀取或執行的代碼段
- DPL 值 = 0,表示內核模式
與這個段相關的線性地址是 4 GB,S = 1 和 type = 0xa 表示代碼段。選擇器在?cs?寄存器中。Linux 中用來訪問這個段選擇器的宏是_KERNEL_CS。
內核數據段 (kernel data segment)?描述符的值與內核代碼段的值類似,惟一不同的就是 Type 字段值為 2。這表示此段為數據段,選擇器存儲在ds?寄存器中。Linux 中用來訪問這個段選擇器的宏是?_KERNEL_DS。
用戶代碼段 (user code segment)?由處于用戶模式中的所有進程共享。存儲在 GDT 中的對應段描述符的值如下:
- Base = 0x00000000
- Limit = 0xffffffff
- G = 1
- S = 1
- Type = 0xa,表示可以讀取和執行的代碼段
- DPL = 3,表示用戶模式
在 Linux 中,我們可以通過?_USER_CS?宏來訪問此段選擇器。
在?用戶數據段 (user data segment)?描述符中,惟一不同的字段就是 Type,它被設置為 2,表示將此數據段定義為可讀取和寫入。Linux 中用來訪問此段選擇器的宏是?_USER_DS。
除了這些段描述符之外,GDT 還包含了另外兩個用于每個創建的進程的段描述符 —— TSS 和 LDT 段。
每個?TSS 段 (TSS segment)?描述符都代表一個不同的進程。TSS 中保存了每個 CPU 的硬件上下文信息,它有助于有效地切換上下文。例如,在?U->K?模式的切換中,x86 CPU 就是從 TSS 中獲取內核模式堆棧的地址。
每個進程都有自己在 GDT 中存儲的對應進程的 TSS 描述符。這些描述符的值如下:
- Base = &tss (對應進程描述符的 TSS 字段的地址;例如?&tss_struct)這是在 Linux 內核的 schedule.h 文件中定義的
- Limit = 0xeb (TSS 段的大小是 236 字節)
- Type = 9 或 11
- DPL = 0。用戶模式不能訪問 TSS。G 標志被清除
所有進程共享默認 LDT 段。默認情況下,其中會包含一個空的段描述符。這個默認 LDT 段描述符存儲在 GDT 中。Linux 所生成的 LDT 的大小是 24 個字節。默認有 3 個條目:
LDT[0] = 空 LDT[1] = 用戶代碼段 LDT[2] = 用戶數據/堆棧段描述符計算任務
要計算 GDT 中最多可以存儲多少條目,必須先理解?NR_TASKS(這個變量決定了 Linux 可支持的并發進程數 —— 內核源代碼中的默認值是 512,最多允許有 256 個到同一實例的并發連接)。
GDT 中可存儲的條目總數可通過以下公式確定:
GDT 中的條目數 = 12 + 2 * NR_TASKS。 正如前所述,GDT 可以保存的條目數 = 2^13 -1 = 8192。在這 8192 個段描述符中,Linux 要使用 6 個段描述符,另外還有 4 個描述符將用于 APM 特性(高級電源管理特性),在 GDT 中還有 4 個條目保留未用。因此,GDT 中的條目數等于 8192 - 14,也就是 8180。
任何情況下,GDT 中的條目數 8180,因此:
2 *?NR_TASKS?= 8180?
NR_TASKS?= 8180/2 = 4090
(為什么使用?2 *?NR_TASKS?因為對于所創建的每個進程,都不僅要加載一個 TSS 描述符 —— 用來維護上下文切換的內容,另外還要加載一個 LDT 描述符。)
這種 x86 架構中進程數量的限制是 Linux 2.2 中的一個組件,但自 2.4 版的內核開始,這個問題已經不存在了,部分原因是使用了硬件上下文切換(這不可避免地要使用 TSS),并將其替換為進程切換。
接下來,讓我們了解一下分頁模型。
回頁首
分頁模型概述
分頁單元負責將線性地址轉換成物理地址(請參見圖 1)。線性地址會被分組成頁的形式。這些線性地址實際上都是連續的 —— 分頁單元將這些連續的內存映射成對應的連續物理地址范圍(稱為?頁框)。注意,分頁單元會直觀地將 RAM 劃分成固定大小的頁框。
正因如此,分頁具有以下優點:
- 為一個頁定義的訪問權限中保存了構成該頁的整組線性地址的權限
- 頁的大小等于頁框的大小
將這些頁映射成頁框的數據結構稱為頁表 (page table)。頁表存儲在主存儲器中,可由內核在啟用分頁單元之前對其進行恰當的初始化。圖 5 展示了頁表。
圖 5. 頁表將頁轉換成頁框
注意,上圖 Page1 中包含的地址集正好與 Page Frame1 中包含的地址集匹配。
在 Linux 中,分頁單元的使用多于分段單元。前面介紹 Linux 分段模型時已提到,每個分段描述符都使用相同的地址集進行線性尋址,從而盡可能降低使用分段單元將邏輯地址轉換成線性地址的需要。通過更多地使用分頁單元而非分段單元,Linux 可以極大地促進內存管理及其在不同硬件平臺之間的可移植性。
分頁過程中使用的字段
下面讓我們來介紹一下用于在 x86 架構中指定分頁的字段,這些字段有助于在 Linux 中實現分頁功能。分頁單元進入作為分段單元輸出結果的線性字段,然后進一步將其劃分成以下 3 個字段:
- Directory?以 10 MSB 表示(Most Significant Bit,也就是二進制數字中值最大的位的位置 —— MSB 有時稱為最左位)。
- Table?以中間的 10 位表示。
- Offset?以 12 LSB 表示。(Least Significant Bit,也就是二進制整數中給定單元值的位的位置,即確定這個數字是奇數還是偶數。LSB 有時稱為最右位。這與數字權重最輕的數字類似,它是最右邊位置處的數字。)
線性地址到對應物理位置的轉換的過程包含兩個步驟。第一步使用了一個稱為頁目錄 (Page Directory)?的轉換表(從頁目錄轉換成頁表),第二步使用了一個稱為頁表 (Page Table)?的轉換表(即頁表加偏移量再加頁框)。圖 6 展示了此過程。
圖 6. 分頁字段
開始時,首先將頁目錄的物理地址加載到?cr3?寄存器中。線性地址中的 Directory 字段確定頁目錄中指向恰當的頁表條目。Table 字段中的地址確定包含頁的頁框物理地址所在頁表中的條目。Offset 字段確定了頁框中的相對位置。由于 Offset 字段為 12 位,因此每個頁中都包含有 4 KB 數據。
下面小結物理地址的計算:
由于 Page Directory 字段和 Page Table 段都是 10 位,因此其可尋址上限為 1024*1024 KB,Offset 可尋址的范圍最大為 2^12(4096 字節)。因此,頁目錄的可尋址上限為 1024*1024*4096(等于 2^32 個內存單元,即 4 GB)。因此在 x86 架構上,總可尋址上限是 4 GB。
擴展分頁
擴展分頁是通過刪除頁表轉換表實現的;此后線性地址的劃分即可在頁目錄 (10 MSB) 和偏移量 (22 LSB) 之間完成了。
22 LSB 構成了頁框的 4 MB 邊界(2^22)。擴展分頁可以與普通的分頁模型一起使用,并可用于將大型的連續線性地址映射為對應的物理地址。操作系統中刪除頁表以提供擴展頁表。這可以通過設置 PSE (page size extension) 實現。
36 位的 PSE 擴展了 36 位的物理地址,可以支持 4 MB 頁,同時維護一個 4 字節的頁目錄條目,這樣就可以提供一種對超過 4 GB 的物理內存進行尋址的方法,而不需要對操作系統進行太大的修改。這種方法對于按需分頁來說具有一些實際的限制。
回頁首
Linux 中的分頁模型
雖然 Linux 中的分頁與普通的分頁類似,但是 x86 架構引入了一種三級頁表機制,包括:
- 頁全局目錄 (Page Global Directory),即 pgd,是多級頁表的抽象最高層。每一級的頁表都處理不同大小的內存 —— 這個全局目錄可以處理 4 MB 的區域。每項都指向一個更小目錄的低級表,因此 pgd 就是一個頁表目錄。當代碼遍歷這個結構時(有些驅動程序就要這樣做),就稱為是在“遍歷”頁表。
- 頁中間目錄 (Page Middle Directory),即 pmd,是頁表的中間層。在 x86 架構上,pmd 在硬件中并不存在,但是在內核代碼中它是與 pgd 合并在一起的。
- 頁表條目 (Page Table Entry),即 pte,是頁表的最低層,它直接處理頁(參看?PAGE_SIZE),該值包含某頁的物理地址,還包含了說明該條目是否有效及相關頁是否在物理內存中的位。
為了支持大內存區域,Linux 也采用了這種三級分頁機制。在不需要為大內存區域時,即可將 pmd 定義成“1”,返回兩級分頁機制。
分頁級別是在編譯時進行優化的,我們可以通過啟用或禁用中間目錄來啟用兩級和三級分頁(使用相同的代碼)。32 位處理器使用的是 pmd 分頁,而 64 位處理器使用的是 pgd 分頁。
圖 7. 三級分頁
如您所知,在 64 位處理器中:
- 21 MSB 保留未用
- 13 LSB 由頁面偏移量表示
- 其余的 30 位分為:
- 10 位用于頁表
- 10 位用于頁全局目錄
- 10 位用于頁中間目錄
我們可以從架構中看到,實際上使用了 43 位進行尋址。因此在 64 位處理器中,可以有效使用的內存是 2 的 43 次方。
每個進程都有自己的頁目錄和頁表。為了引用一個包含實際用戶數據的頁框,操作系統(在 x86 架構上)首先將 pgd 加載到?cr3?寄存器中。Linux 將?cr3?寄存器的內容存儲到 TSS 段中。此后只要在 CPU 上執行新進程,就從 TSS 段中將另外一個值加載到?cr3?寄存器中。從而使分頁單元引用一組正確的頁表。
pgd 表中的每一條目都指向一個頁框,其中中包含了一組 pmd 條目;pdm 表中的每個條目又指向一個頁框,其中包含一組 pte 條目;pde 表中的每個條目再指向一個頁框,其中包含的是用戶數據。如果正在查找的頁已轉出,那么就會在 pte 表中存儲一個交換條目,(在缺頁的情況下)以定位將哪個頁框重新加載到內存中。
圖 8 說明我們連續為各級頁表添加偏移量來映射對應的頁框條目。我們通過進入作為分段單元輸出的線性地址,再劃分該地址來獲得偏移量。要將線性地址劃分成對應的每個頁表元素,需要在內核中使用不同的宏。本文不詳細介紹這些宏,下面我們通過圖 8 來簡單看一下線性地址的劃分方式。
圖 8. 具有不同地址長度的線性地址
預留頁框
Linux 為內核代碼和數據結構預留了幾個頁框。這些頁永遠不會?被轉出到磁盤上。從 0x0 到 0xc0000000 (PAGE_OFFSET) 的線性地址可由用戶代碼和內核代碼進行引用。從?PAGE_OFFSET?到 0xffffffff 的線性地址只能由內核代碼進行訪問。
這意味著在 4 GB 的內存空間中,只有 3 GB 可以用于用戶應用程序。
如何啟用分頁
Linux 進程使用的分頁機制包括兩個階段:
- 在啟動時,系統為 8 MB 的物理內存設置頁表。
- 然后,第二個階段完成對其余物理地址的映射。
在啟動階段,startup_32()?調用負責對分頁機制進行初始化。這是在 arch/i386/kernel/head.S 文件中實現的。這 8 MB 的映射發生在PAGE_OFFSET?之上的地址中。這種初始化是通過一個靜態定義的編譯時數組 (swapper_pg_dir) 開始的。在編譯時它被放到一個特定的地址(0x00101000)。
這種操作為在代碼中靜態定義的兩個頁 ——?pg0?和?pg1?—— 建立頁表。這些頁框的大小默認為 4 KB,除非我們設置了頁大小擴展位(有關 PSE 的更多內容,請參閱?擴展分頁?一節)。這個全局數組所指向的數據地址存儲在?cr3?寄存器中,我認為這是為 Linux 進程設置分頁單元的第一階段。其余的頁項是在第二階段中完成的。
第二階段由方法調用?paging_init()?來完成。
在 32 位的 x86 架構上,RAM 映射到?PAGE_OFFSET?和由 4GB 上限 (0xFFFFFFFF) 表示的地址之間。這意味著大約有 1 GB 的 RAM 可以在 Linux 啟動時進行映射,這種操作是默認進行的。然而,如果有人設置了?HIGHMEM_CONFIG,那么就可以將超過 1 GB 的內存映射到內核上 —— 切記這是一種臨時的安排。可以通過調用?kmap()?實現。
回頁首
物理內存區域
我已經向您展示了(32 位架構上的) Linux 內核按照 3:1 的比率來劃分虛擬內存:3 GB 的虛擬內存用于用戶空間,1 GB 的內存用于內核空間。內核代碼及其數據結構都必須位于這 1 GB 的地址空間中,但是對于此地址空間而言,更大的消費者是物理地址的虛擬映射。
之所以出現這種問題,是因為若一段內存沒有映射到自己的地址空間中,那么內核就不能操作這段內存。因此,內核可以處理的最大內存總量就是可以映射到內核的虛擬地址空間減去需要映射到內核代碼本身上的空間。結果,一個基于 x86 的 Linux 系統最大可以使用略低于 1 GB 的物理內存。
為了迎合大量用戶的需要,支持更多內存、提高性能,并建立一種獨立于架構的內存描述方法,Linux 內存模型就必須進行改進。為了實現這些目標,新模型將內存劃分成分配給每個 CPU 的空間。每個空間都稱為一個?節點;每個節點都被劃分成一些?區域。區域(表示內存中的范圍)可以進一步劃分為以下類型:
- ZONE_DMA(0-16 MB):包含 ISA/PCI 設備需要的低端物理內存區域中的內存范圍。
- ZONE_NORMAL(16-896 MB):由內核直接映射到高端范圍的物理內存的內存范圍。所有的內核操作都只能使用這個內存區域來進行,因此這是對性能至關重要的區域。
- ZONE_HIGHMEM(896 MB 以及更高的內存):系統中內核不能映像到的其他可用內存。
節點的概念在內核中是使用?struct pglist_data?結構來實現的。區域是使用?struct zone_struct?結構來描述的。物理頁框是使用?struct Page?結構來表示的,所有這些?Struct?都保存在全局結構數組?struct mem_map?中,這個數組存儲在?NORMAL_ZONE?的開頭。節點、區域和頁框之間的基本關系如圖 9 所示。
圖 9. 節點、區域和頁框之間的關系
當實現了對 Pentium II 的虛擬內存擴展的支持(在 32 位系統上使用 PAE —— Physical Address Extension —— 可以訪問 64 GB 的內存)和對 4 GB 的物理內存(同樣是在 32 位系統上)的支持時,高端內存區域就會出現在內核內存管理中了。這是在 x86 和 SPARC 平臺上引用的一個概念。通常這 4 GB 的內存可以通過使用?kmap()?將?ZONE_HIGHMEM?映射到?ZONE_NORMAL?來進行訪問。請注意在 32 位的架構上使用超過 16 GB 的內存是不明智的,即使啟用了 PAE 也是如此。
(PAE 是 Intel 提供的內存地址擴展機制,它通過在宿主操作系統中使用 Address Windowing Extensions API 為應用程序提供支持,從而讓處理器將可以用來尋址物理內存的位數從 32 位擴展為 36 位。)
這個物理內存區域的管理是通過一個?區域分配器(zone allocator)?實現的。它負責將內存劃分為很多區域;它可以將每個區域作為一個分配單元使用。每個特定的分配請求都利用了一組區域,內核可以從這些位置按照從高到低的順序來進行分配。
例如:
- 對于某個用戶頁面的請求可以首先從“普通”區域中來滿足(ZONE_NORMAL);
- 如果失敗,就從?ZONE_HIGHMEM?開始嘗試;
- 如果這也失敗了,就從?ZONE_DMA?開始嘗試。
這種分配的區域列表依次包括?ZONE_NORMAL、ZONE_HIGHMEM?和?ZONE_DMA?區域。另一方面,對于 DMA 頁的請求可能只能從 DMA 區域中得到滿足,因此這種請求的區域列表就只包含 DMA 區域。
回頁首
結束語
內存管理是一組非常龐大、復雜且耗時的任務,也是一個非常難以實現的任務,因為我們需要精雕細琢出一個模型,設計好系統如何在真實的多程序的環境中進行操作,這是一項非常艱難的工作。諸如調度、分頁行為和多進程的交互組件都向我們提出了相當難度的挑戰。我希望本文可以幫助您了解接受 Linux 內存管理挑戰所需要的一些基本知識,并為您提供一個起點。
轉載于:https://www.cnblogs.com/davidwang456/p/3597561.html
《新程序員》:云原生和全面數字化實踐50位技術專家共同創作,文字、視頻、音頻交互閱讀總結
以上是生活随笔為你收集整理的探索 Linux 内存模型--转的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Linux 进程管理剖析--转
- 下一篇: DDNS 的工作原理及其在 Linux