文件

可用性和彈性

本頁從生產角度概述 MinIO 的可用性和彈性設計與功能。

注意

本頁的內容旨在作為了解 MinIO 可用性和彈性背後的設計和理念的盡力而為指南。它不能取代 MinIO SUBNET 的功能,該功能允許在規劃 MinIO 部署時與 MinIO 工程部門協調。

社群使用者可以在 MinIO 社群 Slack 上尋求支援。社群支援僅限盡力而為,且不具有關於回應速度的 SLA。

分散式 MinIO 部署

MinIO 實作 抹除編碼 作為在磁碟機或節點層級故障事件期間提供可用性和彈性的核心組件。

MinIO 將每個物件分割為資料和 同位 分片,並將這些分片分佈在單個 抹除集 中。

Diagram of erasure coded object partitioned into twelve data shards and four parity shards

這個小型單節點部署在一個抹除集中有 16 個磁碟機。假設預設 同位EC:4,MinIO 將物件分割為 4 (四個) 個同位分片和 12 (十二個) 個資料分片。MinIO 將這些分片均勻地分佈在抹除集中的每個磁碟機上。

MinIO 使用確定性演算法來選取給定物件的抹除集。

對於每個唯一的物件命名空間 BUCKET/PREFIX/[PREFIX/...]/OBJECT.EXTENSION,MinIO 始終選取相同的抹除集進行讀取/寫入操作。這包括該相同物件的所有 版本

Diagram of erasure set selection based on object namespace

MinIO 使用完整的物件命名空間計算目標抹除集。

MinIO 需要 讀取和寫入法定人數才能對抹除集執行讀取和寫入操作。

法定人數取決於部署的配置同位。讀取法定人數始終等於配置的同位,以便 MinIO 可以對任何未丟失比同位更多磁碟機的抹除集執行讀取操作。

Diagram of degraded erasure set, where two parity shards replace two data shards

此節點有兩個磁碟機故障。MinIO 使用同位分片自動取代丟失的資料分片,並將重建的物件提供給請求的用戶端。

使用預設同位 EC:4,部署可以容忍每個抹除集損失 4 (四個) 個磁碟機,並且仍然可以提供讀取操作。

寫入法定人數取決於配置的同位和抹除集的大小。

如果同位小於抹除集磁碟機數量的 1/2 (一半),則寫入法定人數等於同位,並且功能與讀取法定人數類似。

MinIO 會自動增加寫入到降級的 Erasure Set 中物件的同位檢查,以確保物件能達到與健康 Erasure Set 中物件相同的 SLA。同位檢查升級行為提供額外的風險緩解層級,但無法取代修復或更換損壞的硬碟,以使 Erasure Set 回復到完全健康的狀態這個長期解決方案。

Diagram of degraded erasure set, where two drives have failed

此節點有兩個硬碟故障。MinIO 會以升級的同位檢查 EC:6 寫入物件,以確保此物件達到與其他物件相同的 SLA。

使用預設的同位檢查 EC:4,部署可以容忍每個 Erasure Set 遺失 4 個硬碟,並且仍然提供寫入操作。

如果同位檢查等於 Erasure Set 硬碟數量的一半 (1/2),則寫入仲裁等於同位檢查 + 1 (一),以避免由於「裂腦」情境導致的資料不一致。

例如,如果 Erasure Set 中恰好一半的硬碟由於網路故障而隔離,MinIO 會認為仲裁遺失,因為它無法為寫入操作建立 N+1 的硬碟群組。

Diagram of erasure set where half the drives have failed

此節點有 50% 的硬碟故障。如果同位檢查為 EC:8,則此 Erasure Set 無法滿足寫入仲裁,且 MinIO 會拒絕對該集合的寫入操作。由於 Erasure Set 仍然維持讀取仲裁,因此對現有物件的讀取操作仍然可以成功。

如果 Erasure Set 永久遺失的硬碟數量超過配置的同位檢查,則表示發生資料遺失。

對於最大的同位檢查配置,如果硬碟遺失數量等於同位檢查,則 Erasure Set 會進入「唯讀」模式。對於 16 的最大 Erasure Set 大小和 8 的最大同位檢查,這需要遺失 9 個硬碟才會發生資料遺失。

Diagram of completely degraded erasure set

此 Erasure Set 遺失的硬碟數量超過配置的同位檢查 EC:4,因此失去了讀取和寫入仲裁。MinIO 無法復原儲存在此 Erasure Set 上的任何資料。

暫時或臨時的硬碟故障(例如由於儲存控制器或連接硬體故障),可能會在 Erasure Set 中恢復正常運作狀態。

MinIO 還透過在集區中每個節點上「條帶化」 Erasure Set 硬碟,來進一步降低 Erasure Set 故障的風險。

MinIO 會根據節點和硬碟的數量自動計算最佳的 Erasure Set 大小,其中最大集合大小為 16 (十六)。然後,它會為每個 Erasure Set 選擇每個節點一個硬碟,遍歷整個集區,如果 Erasure Set 條帶大小大於節點數量,則會繞回。此拓撲結構可提供對單一節點甚至該節點上儲存控制器故障的彈性。

Diagram of a sixteen node by eight drive per node cluster, consisting of eight sixteen drive erasure sets striped evenly across each node.

在此 16 x 8 部署中,MinIO 將計算 8 個各有 16 個硬碟的 Erasure Set。它會跨可用節點為每個 Erasure Set 分配每個節點一個硬碟。如果有 8 個節點,MinIO 則需要為每個 Erasure Set 選擇每個節點 2 個硬碟。

在上述拓撲結構中,集區有 8 個各有 16 個硬碟的 Erasure Set,它們條帶化分佈在 16 個節點上。每個節點將為每個 Erasure Set 分配一個硬碟。雖然遺失一個節點在技術上會導致遺失 8 個硬碟,但每個 Erasure Set 只會遺失一個硬碟。即使節點停機,這也能維持仲裁。

每個 Erasure Set 都獨立於同一集區中的所有其他 Erasure Set。

如果一個 Erasure Set 完全降級,MinIO 仍然可以在其他 Erasure Set 上執行讀寫操作。

Diagram of a MinIO multi-pool deployment with one failed erasure set in a pool

一個集區有一個降級的 Erasure Set。雖然 MinIO 無法再為該 Erasure Set 提供讀/寫操作,但它可以繼續在該集區中健康的 Erasure Set 上提供操作。

然而,遺失的資料可能仍然會影響依賴 100% 資料可用性假設的工作負載。此外,每個 Erasure Set 完全獨立於其他 Erasure Set,因此您無法使用其他 Erasure Set 將資料還原到完全降級的 Erasure Set。您必須使用 站點儲存桶 複寫來建立一個具備 BC/DR 就緒的遠端部署,以還原遺失的資料。

對於多集區 MinIO 部署,每個集區至少需要一個 Erasure Set 維持讀/寫仲裁才能繼續執行操作。

如果一個集區遺失所有 Erasure Set,MinIO 將無法再判斷給定的讀/寫操作是否會路由到該集區。因此,MinIO 會停止對部署的所有 I/O,即使其他集區仍然運作。

Diagram of a MinIO multi-pool deployment with one failed pool.

此部署中的一個集區完全故障。MinIO 無法再判斷要將 I/O 路由到哪個集區或 Erasure Set。持續操作可能會產生不一致的狀態,其中物件和/或其版本存在於不同的 Erasure Set 中。因此,MinIO 會暫停部署中的所有 I/O,直到集區復原。

若要還原對部署的存取權,管理員必須將集區還原到正常運作狀態。這可能需要格式化磁碟、更換硬體或更換節點,具體取決於故障的嚴重程度。請參閱 硬體故障後的復原 以取得更完整的說明文件。

使用複寫的遠端端點將遺失的資料還原到部署。儲存在健康集區上的所有資料在磁碟上仍然是安全的。

對硬碟的獨佔存取權

MinIO **需要** 對於提供的物件儲存硬碟或磁碟區的 *獨佔* 存取權。沒有其他程序、軟體、腳本或人員應該對提供給 MinIO 的硬碟或磁碟區,或 MinIO 放置在它們上的物件或檔案執行*任何*直接操作。

除非 MinIO 工程團隊指示,否則請勿使用腳本或工具直接修改、刪除或移動所提供硬碟上的任何資料分片、同位檢查分片或中繼資料檔案,包括從一個硬碟或節點移動到另一個硬碟或節點。此類操作很可能會導致超出 MinIO 修復能力的大範圍損壞和資料遺失。

複寫的 MinIO 部署

MinIO 實作了 站點複寫 作為在 MinIO 部署中發生大小規模資料遺失時,確保營運持續性和災難復原 (BC/DR) 的主要措施。
Diagram of a multi-site deployment during initial setup

每個對等站點都部署到獨立的資料中心,以提供保護,防止大規模故障或災難。如果一個資料中心完全離線,用戶端可以容錯移轉到另一個站點。

如果一個站點由於暫時或持續的停機而發生部分或全部資料遺失,MinIO 複寫可以自動 修復
Diagram of a multi-site deployment while healing

資料中心 2 已關閉,站點 B 需要重新同步。負載平衡器會處理路由到資料中心 1 中站點 A 的操作。站點 A 會持續將資料複寫到站點 B。

一旦所有資料都同步,您就可以將正常連線還原到該站點。根據複寫延遲量、站點之間的延遲以及整體工作負載 I/O,您可能需要暫時停止寫入操作,以允許站點完全趕上進度。

如果對等站點完全故障,您可以從組態中完全移除該站點。負載平衡器組態也應該移除該站點,以避免將用戶端請求路由到離線站點。

然後,您可以透過將其新增回站點複寫組態,在修復原始硬體或完全更換硬體後,還原對等站點。MinIO 會在持續複寫新資料的同時,自動開始重新同步現有資料。

站點可以在重新同步期間繼續處理操作,方法是將 GET/HEAD 請求代理到健康的對等站點
Diagram of a multi-site deployment while healing

站點 B 沒有請求的物件,可能是由於複寫延遲。它將 GET 請求代理到站點 A。站點 A 會傳回物件,然後站點 B 會將物件傳回給請求的用戶端。

用戶端會收到第一個傳回所請求物件*任何*版本的對等站點的結果。

PUTDELETE 操作使用一般的複寫程序進行同步。LIST 操作不會代理,且需要用戶端專門針對健康的對等站點發出這些操作。