文件

站點複製概觀

站點複製將多個獨立的 MinIO 部署配置為一個稱為對等站點的複本叢集。

Diagram of a site replication deployment with two sites

具有兩個對等站點的站點複製部署。負載平衡器管理至兩個站點之一的路由操作。寫入一個站點的資料會自動複製到另一個對等站點。

站點複製假設使用包含的 MinIO 身分提供者 (IDP) 或外部 IDP。所有已配置的部署都必須使用相同的 IDP。使用外部 IDP 的部署必須在各站點使用相同的配置。

有關站點複製架構和部署概念的詳細資訊,請參閱 部署架構:已複製的 MinIO 部署

概觀

跨所有站點複製的內容

每個 MinIO 部署(「對等站點」)都會在其他對等站點之間同步以下變更

  • 建立、修改和刪除儲存桶和物件,包括

  • 建立和刪除 IAM 使用者、群組、原則和原則對使用者或群組的對應(適用於 LDAP 使用者或群組)

  • 為可從本機 root 認證驗證的工作階段權杖建立安全性權杖服務 (STS) 認證

  • 建立和刪除 存取金鑰(不屬於 root 使用者擁有的金鑰)

站點複製會在所有複製的站點上為所有新的和現有的儲存桶啟用儲存桶版本控制

mc 版本中的新增功能:RELEASE.2023-12-02T02-03-28Z

您可以選擇跨對等站點複製 ILM 過期規則。對於新的站點複製配置,請使用具有 --replicate-ilm-expiry 標誌的 mc admin replicate add。對於現有的站點複製配置,您可以使用具有 --enable-ilm-expiry-replication--disable-ilm-expiry-replication 標誌(視情況而定)的 mc admin replicate update 來啟用或停用該行為。

不跨站點複製的內容

在站點複製設定中,MinIO 部署不會複製以下項目的建立或修改:

初始站點複製程序

啟用站點複製後,身份和存取管理 (IAM) 設定會依以下順序同步:

  1. 原則

  2. 使用者帳戶(針對本機使用者)

  3. 群組

  4. 存取金鑰

    root 的存取金鑰不會同步。

  5. 已同步使用者帳戶的政策映射

  6. 安全令牌服務 (STS) 使用者 的政策映射

  1. 原則

  2. 與具有有效 MinIO 政策 的 OIDC 帳戶相關聯的存取金鑰。root 存取金鑰不會同步。

  3. 已同步使用者帳戶的政策映射

  4. 安全令牌服務 (STS) 使用者 的政策映射

  1. 原則

  2. 群組

  3. 與具有有效 MinIO 政策 的 LDAP 帳戶相關聯的存取金鑰。root 存取金鑰不會同步。

  4. 已同步使用者帳戶的政策映射

  5. 安全令牌服務 (STS) 使用者 的政策映射

在跨對等站點初始同步資料之後,MinIO 會持續複製並同步所有站點之間發生的 可複製的資料

站點修復

站點複製設定中的任何 MinIO 部署都可以從具有該資料最新版本(「最新」)的對等站點重新同步損壞的 符合複製條件的資料

版本變更自 RELEASE.2023-07-18T17-49-40Z:站點複製操作會重試最多三 (3) 次。

MinIO 會將嘗試三次後仍無法複製的複製操作解除佇列。 掃描器 會在稍後時間擷取那些受影響的物件,並將其重新排入複製佇列。

版本變更自 RELEASE.2022-08-11T04-37-28Z:當執行任何 GETHEAD API 方法時,失敗或擱置中的複製會自動重新排隊。 例如,在站點恢復連線後,使用 mc statmc catmc ls 命令會提示修復重新排隊。

版本變更自 RELEASE.2022-12-02T23-48-47Z:如果一個站點因任何原因遺失資料,請使用 mc admin replicate resync 從另一個健全的站點重新同步資料。 這會啟動一個主動程序,重新同步資料,而無需等待被動的 MinIO 掃描器 來識別遺失的資料。

您可以使用 MINIO_SCANNER_SPEED 環境變數或 scanner speed 組態設定來調整 MinIO 如何平衡掃描器效能與讀取/寫入操作。

同步與非同步複製

MinIO 支援為指定的遠端目標指定非同步(預設)或同步複製。

使用非同步複製,MinIO 會在將物件放入 複製佇列之前,完成原始的 PUT 操作。 因此,原始用戶端可能會在物件複製之前看到成功的 PUT 操作。 雖然這可能會導致遠端上的物件過時或遺失,但它可以減輕因複製負載而導致寫入操作緩慢的風險。

使用同步複製,MinIO 會在完成原始的 PUT 操作之前,嘗試複製物件。 無論複製嘗試是否成功,MinIO 都會傳回成功的 PUT 操作。 這減少了寫入操作緩慢的風險,但可能以遠端位置上物件過時或遺失為代價。

MinIO 強烈建議使用預設的非同步站點複製。 同步站點複製效能在很大程度上取決於站點之間的延遲,較高的延遲可能會導致較低的 PUT 效能和複製延遲。 若要設定同步站點複製,請使用 mc admin replicate update--mode 選項。

代理到其他站點

MinIO 對等站點可以將物件的 GET/HEAD 請求代理到其他對等站點,以檢查物件是否存在。 這允許正在修復或落後於其他對等站點的站點仍然傳回持續到其他站點的物件。

例如

  1. 用戶端向 Site1 發出 GET("data/invoices/january.xls")

  2. Site1 無法找到物件

  3. Site1 將請求代理到 Site2

  4. Site2 傳回所請求物件的最新版本

  5. Site1 將代理的物件傳回給用戶端

對於包含唯一版本 ID 的 GET/HEAD 請求,代理請求會傳回對等站點上該物件的最新版本。 如果回應的對等站點也遇到複製延遲,這可能會導致檢索到物件的非當前版本。

MinIO 不會代理 LISTDELETEPUT 操作。

先決條件

先備份叢集設定

在設定站點複製之前,使用 mc admin cluster bucket exportmc admin cluster iam export 命令分別建立儲存桶中繼資料和 IAM 設定的快照。 如果在站點複製設定期間發生設定錯誤,您可以使用這些快照來還原儲存桶/IAM 設定。

設定時具有資料的一個站點

在設定時,只有一個站點可以有資料。 其他站點必須是空的,沒有儲存桶和物件。

設定站點複製後,第一個部署上的任何資料都會複製到其他站點。

所有站點都必須使用相同的 IDP

所有站點都必須使用相同的 身份提供者。 站點複製支援內含的 MinIO IDP、OIDC 或 LDAP。

所有站點都必須使用相同的 MinIO 伺服器版本

所有站點都必須具有相符且一致的 MinIO 伺服器版本。 在具有不符的 MinIO 伺服器版本之間的站點設定複製可能會導致意外或不想要的複製行為。

您還應確保用於設定複製的 mc 版本與伺服器版本非常吻合。

存取相同的加密服務

對於透過金鑰管理服務 (KMS) 進行的 SSE-S3SSE-KMS 加密,所有站點都必須能夠存取中央 KMS 部署。

您可以使用中央 KES 伺服器或多個 KES 伺服器(例如每個站點一個)透過中央支援的 金鑰保管庫伺服器 連接來實現此目的。

複製需要版本控制

站點複製需要 儲存桶版本控制,並為所有建立的儲存桶自動啟用。 您無法在站點複製部署中停用版本控制。

MinIO 無法複製儲存桶中您已排除在版本控制之外的前綴中的物件。

每個站點都安裝負載平衡器

指定站點的負載平衡器、反向代理或類似網路控制平面元件的 URL 或 IP 位址。 請求會自動路由到部署中的節點。

MinIO 建議不要為對等站點使用單一節點主機名稱。 這會建立單一故障點:如果該節點離線,複製就會失敗。

從儲存桶複製切換到站點複製

儲存桶複製 和多站點複製是互斥的。 您無法在相同的部署上同時使用兩種複製方法。

如果您先前設定了儲存桶複製,而現在想要使用站點複製,您必須先刪除初始化站點複製時,具有資料的部署上的所有儲存桶複製規則。請在命令列上使用 mc replicate rm 或使用 MinIO Console 來移除儲存桶複製規則。

設定站點複製時,只能有一個站點擁有資料。所有其他站點都必須是空的。

教學

設定站點複製

  1. 部署兩個或多個獨立的 MinIO 站點,每個站點都使用相同的身分提供者

    只能有一個站點擁有任何儲存桶或物件。其他站點必須是空的。

  2. 在瀏覽器中,存取具有資料的站點的主控台(如果有的話)

    例如,https://<addressforsite>:9000

    <addressforsite> 替換為管理與 MinIO 部署連線的負載平衡器、反向 Proxy 或類似控制平面的主機名稱或 IP 位址。

  3. 選取 設定,然後選取 站點複製

  4. 選取 新增站點 +

  5. 填寫要求的資訊

    此站點

    • 站點名稱:

      要與站點關聯的名稱或其他識別文字。

    • 端點:

      (必填) 管理與站點連線的負載平衡器的主機名稱或 IP。

    • 存取金鑰:

      (必填) 用於登入站點的 root 使用者名稱。

    • 密碼金鑰:

      (必填) 用於登入站點的 root 密碼。

    對等站點

    • 站點名稱:

      要與站點關聯的名稱或其他識別文字。

    • 端點:

      (必填) 管理與站點連線的負載平衡器的主機名稱或 IP。

    • 存取金鑰:

      (必填) 用於登入站點的對等站點 root 的使用者名稱。

    • 密碼金鑰:

      (必填) 用於登入站點的對等站點 root 的密碼。

    指定站點的負載平衡器、反向代理或類似網路控制平面元件的 URL 或 IP 位址。 請求會自動路由到部署中的節點。

    MinIO 建議不要為對等站點使用單一節點主機名稱。 這會建立單一故障點:如果該節點離線,複製就會失敗。

    若要新增兩個以上的站點,請選取其中一個站點條目旁邊的 + 按鈕。若要移除先前新增的站點,請選取站點旁邊的 - 按鈕。

    站點複製會在每個站點的 root 使用者下新增一個 svcacct,以執行複製活動。

  6. 選取 儲存

  7. 選取 複製狀態 按鈕,以驗證複製已在對等站點之間完成。

    任何存在的 可複製的資料 都應顯示為已成功同步。

    如需更多關於檢閱站點複製的資訊,請參閱 站點複製狀態教學

以下步驟為三個 分散式部署 建立新的站點複製設定。其中一個站點包含可複製的資料

這三個站點使用別名 minio1minio2minio3,且只有 minio1 包含任何資料。

  1. 部署三個或更多獨立的 MinIO 站點,並為每個站點使用相同的 IDP

    從空的站點開始,最多只能有一個站點包含任何可複製的資料

  2. 為每個站點設定別名

    指定站點的負載平衡器、反向代理或類似網路控制平面元件的 URL 或 IP 位址。 請求會自動路由到部署中的節點。

    MinIO 建議不要為對等站點使用單一節點主機名稱。 這會建立單一故障點:如果該節點離線,複製就會失敗。

    例如,對於三個 MinIO 站點,您可以建立別名 minio1minio2minio3

    使用 mc alias set 來定義管理與站點連線的負載平衡器的主機名稱或 IP。

    mc alias set minio1 https://minio1.example.com:9000 adminuser adminpassword
    mc alias set minio2 https://minio2.example.com:9000 adminuser adminpassword
    mc alias set minio3 https://minio3.example.com:9000 adminuser adminpassword
    

    或定義環境變數

    export MC_HOST_minio1=https://adminuser:adminpassword@minio1.example.com
    export MC_HOST_minio2=https://adminuser:adminpassword@minio2.example.com
    export MC_HOST_minio3=https://adminuser:adminpassword@minio3.example.com
    
  3. 新增站點複製設定

    mc admin replicate add minio1 minio2 minio3
    

    如果所有站點都是空的,則別名的順序沒有關係。如果其中一個站點包含任何可複製的資料,您必須將其列在最前面。

    最多只能有一個站點包含任何可複製的資料。

  4. 查詢站點複製設定以進行驗證

    mc admin replicate info minio1
    

    您可以使用站點複製設定中任何對等站點的別名。

  5. 查詢站點複製狀態以確認任何初始資料已複製到所有對等站點。

    mc admin replicate status minio1
    

    您可以使用站點複製設定中任何對等站點的別名。輸出應顯示所有可複製的資料都已同步。

    輸出可能類似於以下內容

    Bucket replication status:
    ●  1/1 Buckets in sync
    
    Policy replication status:
    ●  5/5 Policies in sync
    
    User replication status:
    No Users present
    
    Group replication status:
    No Groups present
    

    如需更多關於檢閱站點複製的資訊,請參閱 站點複製狀態教學

擴充站點複製

您可以將更多站點新增至現有的站點複製設定。

新的站點必須符合以下要求

  • 站點已完全部署,且可透過主機名稱或 IP 存取

  • 與設定中的所有其他站點共用 IDP 設定

  • 使用與其他已設定站點相同的 root 使用者憑證

  • 不包含任何儲存桶或物件資料

  1. 部署新的、空的 MinIO 站點

  2. 在瀏覽器中,存取其中一個現有複製站點的主控台

    例如,https://<addressforsite>:9000

  3. 選取 設定,然後選取 站點複製

  4. 選取 新增站點 +

  5. 進行以下輸入

    存取金鑰:

    (必填) 用於登入每個站點的使用者名稱。在所有站點中應該相同。

    密碼金鑰:

    (必填) 用於登入每個站點的使用者名稱的密碼。在所有站點中應該相同。

    站點名稱:

    用於站點名稱的別名。

    端點:

    (必填) 管理與站點連線的負載平衡器的主機名稱或 IP。

    指定站點的負載平衡器、反向代理或類似網路控制平面元件的 URL 或 IP 位址。 請求會自動路由到部署中的節點。

    MinIO 建議不要為對等站點使用單一節點主機名稱。 這會建立單一故障點:如果該節點離線,複製就會失敗。

    若要新增兩個以上的站點,請選取最後一個站點條目旁邊的 + 按鈕。

  6. 選取 儲存

  1. 依照指定的要求部署新的 MinIO 對等站點

  2. 為新的站點設定別名

    指定站點的負載平衡器、反向代理或類似網路控制平面元件的 URL 或 IP 位址。 請求會自動路由到部署中的節點。

    MinIO 建議不要為對等站點使用單一節點主機名稱。 這會建立單一故障點:如果該節點離線,複製就會失敗。

    若要檢查現有的別名,請使用 mc alias list

    使用 mc alias set 來定義管理與新站點連線的負載平衡器的主機名稱或 IP。

    mc alias set minio4 https://minio4.example.com:9000 adminuser adminpassword
    

    或定義環境變數

    export MC_HOST_minio4=https://adminuser:adminpassword@minio4.example.com
    
  3. 新增站點複製設定

    使用 mc admin replicate add 命令來使用新的對等站點擴充站點複製設定。指定所有現有對等站點的別名,然後指定要新增的新站點的別名。

    例如,以下命令將新的對等站點 minio4 新增至包含現有站點 minio1minio2minio3 的現有站點複製設定。

    mc admin replicate add minio1 minio2 minio3 minio4
    

    注意

    如果任何站點無法存取或永久遺失,您必須先使用 mc admin replicate rm 移除無法存取的站點,然後才能使用新的站點擴充。

  4. 查詢站點複製設定以進行驗證

    mc admin replicate info minio1
    

修改站點的端點

如果對等站點變更其主機名稱,您可以修改複製設定以反映新的主機名稱。

  1. 在瀏覽器中,存取其中一個複製站點的主控台

    例如,https://<addressforsite>:9000

  2. 選取 設定,然後選取 站點複製

  3. 選取要更新的站點旁邊的鉛筆 編輯 圖示

  4. 進行以下輸入

    新的端點:

    (必填) 要使用的新端點位址和埠。

    指定站點的負載平衡器、反向代理或類似網路控制平面元件的 URL 或 IP 位址。 請求會自動路由到部署中的節點。

    MinIO 建議不要為對等站點使用單一節點主機名稱。 這會建立單一故障點:如果該節點離線,複製就會失敗。

  5. 選取 更新

  1. 使用 mc admin replicate info 取得站點的部署 ID

    mc admin replicate info <ALIAS>
    
  2. 使用 mc admin replicate update 更新站點的端點

    mc admin replicate update ALIAS --deployment-id [DEPLOYMENT-ID] --endpoint [NEW-ENDPOINT]
    

    將 [DEPLOYMENT-ID] 替換為要更新之站點的部署 ID。

    將 [NEW-ENDPOINT] 替換為站點的新端點。

    指定站點的負載平衡器、反向代理或類似網路控制平面元件的 URL 或 IP 位址。 請求會自動路由到部署中的節點。

    MinIO 建議不要為對等站點使用單一節點主機名稱。 這會建立單一故障點:如果該節點離線,複製就會失敗。

從複製中移除站點

您可以隨時從複製中移除站點。您可以在稍後重新新增站點,但您必須先完全清除站點中的儲存桶和物件資料。

  1. 在瀏覽器中,存取其中一個複製站點的主控台

    例如,https://<addressforsite>:9000

  2. 選取 設定,然後選取 站點複製

  3. 選取要更新之站點旁邊的垃圾桶「刪除」圖示

  4. 在提示中選取 刪除 以確認刪除站點

使用 mc admin replicate rm

mc admin replicate rm ALIAS PEER_TO_REMOVE --force
  • ALIAS 替換為複製設定中任何對等站點的別名

  • PEER_TO_REMOVE 替換為要移除的對等站點的別名。

站點複製設定中的所有健全對等站點都會自動更新,以移除指定的對等站點。

MinIO 需要 --force 旗標才能從站點複製設定中移除對等站點。

檢閱複製狀態

MinIO 提供有關跨站點複製的資訊,適用於使用者、群組、原則或儲存桶。

摘要資訊包括每個類別的已同步失敗項目數。

  1. 在瀏覽器中,存取其中一個複製站點的主控台

    例如,https://<addressforsite>:9000

  2. 選取 設定,然後選取 站點複製

  3. 選取 複製狀態

  4. (選填) 檢視特定項目的複寫狀態

    檢視複寫狀態,對象為: 下拉式選單中,選取要檢視的項目類型。

    指定要檢視的特定儲存桶 (Bucket)、群組 (Group)、原則 (Policy) 或使用者 (User) 的名稱。

  5. (選填) 選擇 重新整理 來更新資訊。

使用 mc admin replicate status

mc admin replicate status <ALIAS> --<flag> <value>

例如

  • mc admin replicate status minio3 --bucket images

    顯示 minio3 站台上 images 儲存桶的複寫狀態。

    輸出結果類似如下:

    ●  Bucket config replication summary for: images
    
    Bucket          | MINIO2          | MINIO3          | MINIO4
    Tags            |                 |                 |
    Policy          |                 |                 |
    Quota           |                 |                 |
    Retention       |                 |                 |
    Encryption      |                 |                 |
    Replication     | ✔               | ✔               | ✔
    
  • mc admin replicate status minio3 --all

    顯示 minio3 所屬的所有複寫站台的複寫狀態摘要。

    輸出結果類似如下:

    Bucket replication status:
    ●  1/1 Buckets in sync
    
    Policy replication status:
    ●  5/5 Policies in sync
    
    User replication status:
    ●  1/1 Users in sync
    
    Group replication status:
    ●  0/2 Groups in sync
    
    Group           | MINIO2          | MINIO3          | MINIO4
    ittechs         | ✗  in-sync      |                 | ✗  in-sync
    managers        | ✗  in-sync      |                 | ✗  in-sync