將物件從 MinIO 轉換到 GCS
此頁面上的程序會建立新的物件生命週期管理規則,該規則會將物件從 MinIO 儲存貯體轉換到 Google Cloud Storage 後端的遠端儲存層。此程序支援在特定時間段或日曆日期之後,將老化資料移動到低成本的公有雲儲存解決方案等使用案例。
需求
安裝並設定 mc
此程序使用 mc
來對 MinIO 叢集執行操作。在可連線至來源和目的地叢集的機器上安裝 mc
。請參閱 mc
的 安裝快速入門,以取得下載和安裝 mc
的相關說明。
使用 mc alias set
命令為來源 MinIO 叢集建立別名。建立別名需要指定來源和目的地叢集上使用者的存取金鑰。指定的用戶必須具有權限,才能設定和套用轉換操作。
必要的 MinIO 權限
MinIO 需要將以下權限限定於您要建立生命週期管理規則的儲存貯體或多個儲存貯體。
MinIO 也需要您要在其中建立物件轉換生命週期管理規則遠端層的叢集上的以下管理權限
例如,以下原則提供在叢集中任何儲存貯體上設定物件轉換生命週期管理規則的權限:。
{
"Version": "2012-10-17",
"Statement": [
{
"Action": [
"admin:SetTier",
"admin:ListTier"
],
"Effect": "Allow",
"Sid": "EnableRemoteTierManagement"
},
{
"Action": [
"s3:PutLifecycleConfiguration",
"s3:GetLifecycleConfiguration"
],
"Resource": [
"arn:aws:s3:::*"
],
"Effect": "Allow",
"Sid": "EnableLifecycleManagementRules"
}
]
}
必要的 GCS 權限
物件轉換生命週期管理規則需要在遠端儲存層上具有其他權限。具體而言,MinIO 要求 GCS 認證為遠端儲存貯體提供讀取、寫入、列出和刪除權限。
請參閱GCS IAM 權限文件,以獲得關於配置所需權限的更完整指導。
遠端儲存桶必須存在
在將該儲存桶作為目標來配置生命週期管理層或規則之前,請先建立遠端 GCS 儲存桶。
如果您設定了預設的 GCS 儲存類別,則在定義遠端層時,如果您沒有指定 storage class
,MinIO 會使用該預設值。請確保記錄您的 GCS 儲存桶和 MinIO 分層配置的設定,以避免任何潛在的混淆、錯誤配置或其他意料之外的結果。
注意事項
生命週期管理物件掃描器
MinIO 使用掃描器程序來檢查物件是否符合所有已配置的生命週期管理規則。由於高 I/O 工作負載或有限的系統資源而導致掃描速度緩慢可能會延遲生命週期管理規則的應用。請參閱生命週期管理物件掃描器以獲取更多資訊。
對遠端資料的獨佔存取權
MinIO *需要*對遠端儲存層上已轉換的資料擁有獨佔存取權。「熱」MinIO 來源上的物件中繼資料與「溫/冷」遠端層上的物件資料緊密連結。如果無法存取遠端,MinIO 就無法檢索物件資料,而遠端也不能用於還原來源上遺失的中繼資料。
所有對已轉換物件的存取*必須*僅透過 MinIO 使用 S3 API 操作來進行。手動修改已轉換的物件(無論是「熱」MinIO 層上的中繼資料*或*遠端「溫/冷」層上的物件資料)都可能導致該物件資料的遺失。
MinIO 會忽略遠端儲存桶或儲存桶前綴中,任何非由 MinIO 部署明確管理的物件。自動轉換和透明的物件檢索取決於以下假設
遠端儲存上的物件沒有外部變更、遷移或刪除。
遠端儲存桶上沒有生命週期管理規則(例如轉換或過期)。
MinIO 將所有已轉換的物件儲存在遠端儲存桶或資源中,並使用每個部署唯一的字首值。此值不打算用於從後端識別來源部署。MinIO 在配置遠端目標時支援額外可選的人工可讀字首,這有助於診斷、維護或災難復原等相關操作。
MinIO 建議為包含其他資料(包括來自其他 MinIO 部署的已轉換物件)的遠端儲存層指定此可選字首。本教學包含設定此字首的必要語法。
遠端資料的可用性
MinIO 的分層行為取決於遠端儲存是否在請求後立即(毫秒到秒)傳回物件。因此,MinIO *無法*支援需要重新補水、等待時間或人工干預的遠端儲存。
MinIO 會為每個已轉換的物件建立中繼資料,以識別其在遠端儲存上的位置。應用程式無法輕易地獨立於 MinIO 來識別和存取已轉換的物件。因此,已轉換資料的可用性取決於與糾刪碼和分散式部署拓撲為 MinIO 部署上的所有物件提供的相同核心保護。使用物件轉換並未提供任何額外的業務持續性或災難復原優勢。
需要 BC/DR 保護的工作負載應實作 MinIO 伺服器端複寫。複寫可確保物件保留在遠端複寫站點上,以便在發生部分或全部資料遺失時,您可以從遠端重新同步。請參閱重新同步(災難復原)以獲取關於使用複寫在部分或全部資料遺失後進行復原的更完整文件。
程序
1) 為生命週期管理配置使用者帳戶和原則
此步驟會在 MinIO 部署上建立使用者和原則,以支援生命週期管理操作。如果部署已具有具有必要權限的使用者,則您可以略過此步驟。
以下範例使用 Alpha
作為 MinIO 部署的佔位符 alias
。請將此值替換為您正在配置生命週期管理規則的 MinIO 部署的適當別名。請根據貴組織的密碼產生最佳實務,將密碼 LongRandomSecretKey
替換為長、隨機且安全的密鑰。
wget -O - https://minio.dev.org.tw/docs/minio/linux/examples/LifecycleManagementAdmin.json | \
mc admin policy create Alpha LifecycleAdminPolicy /dev/stdin
mc admin user add Alpha alphaLifecycleAdmin LongRandomSecretKey
mc admin policy attach Alpha LifecycleAdminPolicy --user=alphaLifecycleAdmin
此範例假設指定的別名具有在部署上建立原則和使用者的必要權限。請參閱使用者管理和MinIO 基於原則的存取控制以獲取關於 MinIO 使用者和原則的更完整文件。
2) 配置遠端儲存層
使用 mc ilm tier add
命令新增 Google Cloud Storage 服務作為遠端儲存層
mc ilm tier add gcs TARGET TIER_NAME \
--bucket BUCKET \
--prefix PREFIX \
--credentials-file CREDENTIALS \
--storage-class STORAGE_CLASS
上面的範例使用以下引數
引數 |
描述 |
---|---|
要在其上配置 GCS 遠端層的 MinIO 部署的 |
|
與新的 GCS 遠端儲存層建立關聯的名稱。請以全部大寫指定名稱,例如 |
|
MinIO 將物件轉換到的 GCS 儲存後端的儲存桶名稱。 |
|
MinIO 在其中轉換物件的可選儲存桶前綴。 MinIO 會將所有已轉換的物件儲存在指定的 MinIO 建議為包含其他資料(包括來自其他 MinIO 部署的已轉換物件)的遠端儲存層指定此可選字首。此字首應提供回到來源 MinIO 部署的明確參考,以方便與診斷、維護或災難復原相關的操作。 |
|
MinIO 應用於轉換到 GCS 儲存桶的物件的 GCS 儲存類別。 MinIO 的分層行為取決於遠端儲存是否在請求後立即(毫秒到秒)傳回物件。因此,MinIO *無法*支援需要重新補水、等待時間或人工干預的遠端儲存。 以下 GCS 儲存類別符合 MinIO 作為遠端層的要求
如需更多資訊,請參閱GCS 儲存類別。 |
3) 建立並套用轉換規則
使用 mc ilm rule add
命令為儲存桶建立新的轉換規則。以下範例配置在指定的日曆天數後進行轉換
mc ilm rule add ALIAS/BUCKET \
--transition-tier TIERNAME \
--transition-days DAYS \
--noncurrent-transition-days NONCURRENT_DAYS
--noncurrent-transition-tier TIERNAME
上面的範例指定以下引數
引數 |
描述 |
---|---|
指定您要為其建立生命週期管理規則的 MinIO 部署的 |
|
指定您要為其建立生命週期管理規則的儲存桶的完整路徑。 |
|
MinIO 將物件轉換到的遠端儲存層。指定在上一步中建立的遠端儲存層名稱。 如果您想要將非目前物件版本轉換到不同的遠端層,請為 |
|
MinIO 將物件標記為符合轉換資格的日曆天數。請以整數指定天數,例如 |
|
MinIO 將非目前物件版本標記為符合轉換資格的日曆天數。MinIO 會特別測量物件*變成*非目前之後的時間,而不是物件建立時間。請以整數指定天數,例如 省略此值可忽略非目前的物件版本。 此選項對非版本儲存桶沒有影響。 |
4) 驗證轉換規則
使用 mc ilm rule ls
命令檢閱已配置的轉換規則
mc ilm rule ls ALIAS/PATH --transition