將物件從 MinIO 轉移到 GCS

安裝和設定 mc

此程序使用 mc 來對 MinIO 叢集執行操作。在具有對來源和目的地叢集的網路存取的機器上安裝 mc。請參閱 mc 的 安裝快速入門，以取得下載和安裝 mc 的說明。

使用 mc alias set 命令，為來源 MinIO 叢集建立別名。建立別名需要指定來源和目的地叢集上使用者的存取金鑰。指定的用戶必須具有設定和套用轉移操作的權限。

所需的 MinIO 權限

MinIO 需要下列範圍限定在您要為其建立生命週期管理規則的儲存桶或儲存桶的權限。

• s3:PutLifecycleConfiguration

• s3:GetLifecycleConfiguration

MinIO 還需要在您建立物件轉移生命週期管理規則的遠端層的叢集上具有下列管理權限

• admin:SetTier

• admin:ListTier

例如，下列原則提供在叢集中的任何儲存桶上設定物件轉移生命週期管理規則的權限：

{
   "Version": "2012-10-17",
   "Statement": [
      {
            "Action": [
               "admin:SetTier",
               "admin:ListTier"
            ],
            "Effect": "Allow",
            "Sid": "EnableRemoteTierManagement"
      },
      {
            "Action": [
               "s3:PutLifecycleConfiguration",
               "s3:GetLifecycleConfiguration"
            ],
            "Resource": [
                        "arn:aws:s3:::*"
            ],
            "Effect": "Allow",
            "Sid": "EnableLifecycleManagementRules"
      }
   ]
}

所需的 GCS 權限

物件轉移生命週期管理規則需要在遠端儲存層上具有額外的權限。具體來說，MinIO 需要 GCS 憑證為遠端儲存桶提供讀取、寫入、清單和刪除權限。

請參閱 GCS IAM 權限 文件，以取得有關設定所需權限的更完整指導。

遠端儲存桶必須存在

在配置生命週期管理層或規則時，請先建立遠端 GCS 儲存桶，並將該儲存桶作為目標。

如果您設定預設的 GCS 儲存類別，則在您定義遠端層時，如果您沒有指定 storage class，MinIO 會使用該預設值。請務必記錄您的 GCS 儲存桶和 MinIO 分層配置的設定，以避免任何潛在的混淆、錯誤配置或其他意外結果。

生命週期管理物件掃描器

MinIO 使用掃描器程序來根據所有已配置的生命週期管理規則檢查物件。由於高 I/O 工作負載或有限的系統資源導致掃描速度緩慢，可能會延遲生命週期管理規則的應用。有關更多資訊，請參閱生命週期管理物件掃描器。

遠端資料的獨佔存取權

MinIO 需要對遠端儲存層上已轉換的資料擁有獨佔存取權。「熱」MinIO 來源上的物件中繼資料與「溫/冷」遠端層上的物件資料緊密連結。如果無法存取遠端層，MinIO 無法擷取物件資料，遠端層也不能用於還原來源上遺失的中繼資料。

所有對已轉換物件的存取必須僅透過 MinIO，使用 S3 API 操作進行。手動修改已轉換的物件（無論是「熱」MinIO 層上的中繼資料，或遠端「溫/冷」層上的物件資料）都可能導致該物件資料的遺失。

MinIO 會忽略遠端儲存桶或儲存桶前綴中，任何未由 MinIO 部署明確管理的物件。自動轉換和透明物件檢索取決於以下假設：

• 遠端儲存上的物件沒有外部的變更、遷移或刪除。

• 遠端儲存桶上沒有生命週期管理規則（例如轉換或到期）。

MinIO 會將所有轉換的物件儲存在遠端儲存桶或資源中的每個部署唯一前綴值下。此值並非用於從後端識別來源部署。MinIO 在配置遠端目標時支援一個額外的可選人類可讀取前綴，這可能有助於進行與診斷、維護或災難復原相關的操作。

MinIO 建議為包含其他資料（包括來自其他 MinIO 部署的已轉換物件）的遠端儲存層指定此可選前綴。本教學課程包含設定此前綴所需的語法。

遠端資料的可用性

MinIO 分層行為取決於遠端儲存是否在收到請求時立即（毫秒到秒）傳回物件。因此，MinIO 無法支援需要重新水合、等待期或手動介入的遠端儲存。

MinIO 會為每個已轉換的物件建立中繼資料，以識別其在遠端儲存上的位置。應用程式無法在不依賴 MinIO 的情況下輕易識別和存取已轉換的物件。因此，已轉換資料的可用性取決於與抹除編碼和分散式部署拓撲為 MinIO 部署上的所有物件提供的相同核心保護。使用物件轉換不會提供任何額外的業務連續性或災難復原益處。

需要 BC/DR 保護的工作負載應實作 MinIO 伺服器端複寫。複寫確保物件保留在遠端複寫站點上，以便在發生部分或全部資料遺失時，您可以從遠端重新同步。有關使用複寫在部分或全部資料遺失後進行復原的更完整文件，請參閱重新同步 (災難復原)。

1) 為生命週期管理配置使用者帳戶和原則

此步驟會在 MinIO 部署上建立使用者和原則，以支援生命週期管理操作。如果部署已經有具有必要權限的使用者，則可以跳過此步驟。

以下範例使用 Alpha 作為 MinIO 部署的佔位符 alias。將此值替換為您正在配置生命週期管理規則的 MinIO 部署的適當別名。根據您組織的最佳密碼生成實務，將密碼 LongRandomSecretKey 替換為長、隨機且安全的密鑰。

wget -O - https://minio.dev.org.tw/docs/minio/linux/examples/LifecycleManagementAdmin.json | \
mc admin policy create Alpha LifecycleAdminPolicy /dev/stdin
mc admin user add Alpha alphaLifecycleAdmin LongRandomSecretKey
mc admin policy attach Alpha LifecycleAdminPolicy --user=alphaLifecycleAdmin

此範例假設指定的別名具有在部署上建立原則和使用者的必要權限。有關 MinIO 使用者和原則的更完整文件，請參閱使用者管理和MinIO 基於原則的存取控制。

2) 配置遠端儲存層

使用 mc ilm tier add 命令新增一個新的 Google Cloud Storage 服務作為遠端儲存層

mc ilm tier add gcs TARGET TIER_NAME \
   --bucket BUCKET \
   --prefix PREFIX \
   --credentials-file CREDENTIALS \
   --storage-class STORAGE_CLASS

以上範例使用以下引數：

3) 建立和應用轉換規則

使用 mc ilm rule add 命令為儲存桶建立新的轉換規則。以下範例配置在指定的天數後進行轉換：

mc ilm rule add ALIAS/BUCKET \
--transition-tier TIERNAME \
--transition-days DAYS \
--noncurrent-transition-days NONCURRENT_DAYS
--noncurrent-transition-tier TIERNAME

以上範例指定以下引數：

4) 驗證轉換規則

使用 mc ilm rule ls 命令檢閱已配置的轉換規則

mc ilm rule ls ALIAS/PATH --transition

• 將 ALIAS 替換為 MinIO 部署的 alias。

• 將 PATH 替換為要檢索已配置生命週期管理規則的儲存桶名稱。