將物件轉換至遠端 MinIO 部署
此頁面上的程序會建立新的物件生命週期管理規則,將物件從主要 MinIO 部署中的儲存貯體轉換至遠端 MinIO 部署中的儲存貯體。此程序支援成本管理策略,例如將物件從使用 NVMe 儲存的「熱」MinIO 部署分層到使用 SSD 的「暖」MinIO 部署。
需求
安裝和設定 mc
此程序使用 mc
來對 MinIO 叢集執行操作。在可網路存取來源和目的地叢集的機器上安裝 mc
。如需下載和安裝 mc
的說明,請參閱 mc
安裝快速入門。
使用 mc alias set
命令來建立來源 MinIO 叢集的別名。建立別名需要指定來源和目的地叢集上使用者的存取金鑰。指定的使用者必須具有 權限,才能設定和套用轉換操作。
必要的來源 MinIO 權限
MinIO 需要以下權限,這些權限的範圍限定於您要建立生命週期管理規則的儲存貯體。
MinIO 也需要您在其中為物件轉換生命週期管理規則建立遠端層的叢集上的以下管理權限
例如,以下策略允許在叢集中的任何儲存桶上設定物件轉換生命週期管理規則。
{
"Version": "2012-10-17",
"Statement": [
{
"Action": [
"admin:SetTier",
"admin:ListTier"
],
"Effect": "Allow",
"Sid": "EnableRemoteTierManagement"
},
{
"Action": [
"s3:PutLifecycleConfiguration",
"s3:GetLifecycleConfiguration"
],
"Resource": [
"arn:aws:s3:::*"
],
"Effect": "Allow",
"Sid": "EnableLifecycleManagementRules"
}
]
}
必要的遠端 MinIO 權限
物件轉換生命週期管理規則需要在遠端儲存層上具有額外的權限。具體而言,MinIO 需要遠端層的憑證提供遠端儲存桶的讀取、寫入、列出和刪除權限。
例如,遠端 MinIO 部署上的以下策略提供了將物件轉換進出遠端層的必要權限。
{
"Version": "2012-10-17",
"Statement": [
{
"Action": [
"s3:ListBucket"
],
"Effect": "Allow",
"Resource": [
"arn:aws:s3:::MyDestinationBucket"
],
"Sid": ""
},
{
"Action": [
"s3:GetObject",
"s3:PutObject",
"s3:DeleteObject"
],
"Effect": "Allow",
"Resource": [
"arn:aws:s3:::MyDestinationBucket/*"
],
"Sid": ""
}
]
}
修改 MinIO 分層物件的儲存桶的 Resource
。
有關配置必要權限的更完整指南,請參閱存取管理 文件。
遠端儲存桶必須存在
在設定生命週期管理層或使用該儲存桶作為目標的規則之前,先建立遠端儲存桶。
如果遠端儲存桶包含現有資料,請使用 prefix
功能,將轉換的物件與該儲存桶上的任何其他物件隔離。
注意事項
生命週期管理物件掃描器
MinIO 使用掃描器程序來檢查物件是否符合所有已設定的生命週期管理規則。由於高 IO 工作負載或有限的系統資源導致掃描速度緩慢,可能會延遲生命週期管理規則的應用。
遠端資料的獨佔存取權
MinIO *需要*對遠端儲存層上已轉換的資料具有獨佔存取權。「熱」MinIO 來源上的物件中繼資料與「溫/冷」遠端層上的物件資料緊密連結。MinIO 無法在沒有遠端存取權的情況下擷取物件資料,遠端也不能用於還原來源上遺失的中繼資料。
所有對轉換物件的存取都 *必須* 僅透過 MinIO 經由 S3 API 操作進行。手動修改轉換的物件(無論是「熱」MinIO 層上的中繼資料*或*遠端「溫/冷」層上的物件資料)都可能導致該物件資料遺失。
MinIO 會忽略遠端儲存桶或儲存桶前綴中,未由 MinIO 部署明確管理的任何物件。自動轉換和透明的物件擷取取決於以下假設:
遠端儲存上沒有外部物件變更、遷移或刪除。
遠端儲存儲存桶上沒有生命週期管理規則(例如轉換或到期)。
MinIO 將所有轉換的物件儲存在遠端儲存儲存桶或資源中,並使用每個部署唯一的字首值。此值不適用於從後端識別來源部署。MinIO 在設定遠端目標時支援一個額外的可選人類可讀字首,這可能有助於與診斷、維護或災害復原相關的操作。
MinIO 建議為包含其他資料(包括來自其他 MinIO 部署的轉換物件)的遠端儲存層指定此可選字首。本教學包含設定此字首的必要語法。
遠端資料的可用性
MinIO 分層行為取決於遠端儲存是否在請求後立即(數毫秒至數秒)傳回物件。因此,MinIO *無法* 支援需要重新水合、等待時間或人工干預的遠端儲存。
MinIO 為每個轉換的物件建立中繼資料,以識別其在遠端儲存上的位置。應用程式無法在獨立於 MinIO 的情況下輕易地識別和存取轉換的物件。因此,轉換資料的可用性取決於錯誤更正碼和分散式部署拓撲為 MinIO 部署上所有物件提供的相同核心保護。使用物件轉換不會提供任何額外的業務持續性或災害復原優勢。
需要BC/DR 保護的工作負載應實作 MinIO 伺服器端複寫。複寫確保物件保留在遠端複寫站點上,以便您在發生部分或全部資料遺失時可以從遠端重新同步。請參閱重新同步(災害復原),以取得有關使用複寫在部分或全部資料遺失後復原的更完整文件。
程序
1) 設定生命週期管理的使用者帳戶和原則
此步驟會在 MinIO 部署上建立使用者和原則,以支援生命週期管理作業。如果部署已經有具有必要權限的使用者,您可以跳過此步驟。
以下範例使用 Alpha
作為 MinIO 部署的佔位符 別名
。將此值替換為您要在其上設定生命週期管理規則的 MinIO 部署的適當別名。將密碼 LongRandomSecretKey
替換為符合貴組織密碼產生最佳實務的長、隨機且安全的密碼。
wget -O - https://minio.dev.org.tw/docs/minio/linux/examples/LifecycleManagementAdmin.json | \
mc admin policy create Alpha LifecycleAdminPolicy /dev/stdin
mc admin user add Alpha alphaLifecycleAdmin LongRandomSecretKey
mc admin policy attach Alpha LifecycleAdminPolicy --user=alphaLifecycleAdmin
此範例假設指定的別名具有在部署上建立原則和使用者的必要權限。有關 MinIO 使用者和原則的更完整文件,請參閱使用者管理和MinIO 基於原則的存取控制。
2) 設定遠端儲存層
使用mc ilm tier add
命令,將遠端 MinIO 部署新增為新的遠端儲存層。
mc ilm tier add minio TARGET TIER_NAME \
--endpoint https://HOSTNAME \
--access-key ACCESS_KEY \
--secret-key SECRET_KEY \
--bucket BUCKET \
--prefix PREFIX \
--storage-class STORAGE_CLASS \
--region REGION
上面的範例使用以下引數:
引數 |
描述 |
---|---|
要在其上設定 MinIO 遠端層的 MinIO 部署的 |
|
與新的 MinIO 遠端儲存層關聯的名稱。以全大寫字母指定名稱,例如 |
|
MinIO 儲存後端的 URL 端點。 |
|
MinIO 用於存取儲存桶的存取金鑰。存取金鑰 *必須* 對應於具有必要權限的 IAM 使用者。 |
|
指定 |
|
遠端 MinIO 部署上 |
|
MinIO 在其中轉換物件的可選儲存桶字首。 MinIO 將所有轉換的物件儲存在指定的 MinIO 建議為包含其他資料(包括來自其他 MinIO 部署的轉換物件)的遠端儲存層指定此可選字首。此字首應提供返回來源 MinIO 部署的明確參考,以方便與診斷、維護或災害復原相關的操作。 |
|
MinIO 應用於轉換到遠端 MinIO 儲存桶的物件的錯誤更正碼儲存類別。指定以下支援的儲存類別之一:
|
|
指定 MinIO 部署通常不需要在設定過程中設定區域。僅當您明確設定部署的 |
3) 建立並套用轉換規則
使用 mc ilm rule add
命令來為儲存桶建立新的轉換規則。以下範例設定在指定的日曆天數後進行轉換。
mc ilm rule add ALIAS/BUCKET \
--transition-tier TIERNAME \
--transition-days DAYS \
--noncurrent-transition-days NONCURRENT_DAYS
--noncurrent-transition-tier TIERNAME
以上範例指定了以下參數:
引數 |
描述 |
---|---|
指定您要為其建立生命週期管理規則的 MinIO 部署的 |
|
指定您要為其建立生命週期管理規則的儲存桶完整路徑。 |
|
MinIO 將物件轉換到的遠端儲存層。指定在上一步建立的遠端儲存層名稱。 如果您想將非當前物件版本轉換到不同的遠端層,請為 |
|
MinIO 將物件標記為符合轉換資格的日曆天數。將天數指定為整數,例如 |
|
MinIO 將非當前物件版本標記為符合轉換資格的日曆天數。MinIO 專門測量物件 *變成* 非當前版本之後的時間,而不是物件的建立時間。將天數指定為整數,例如 省略此值以忽略非當前物件版本。 此選項對非版本控制的儲存桶無效。 |
4) 驗證轉換規則
使用 mc ilm rule ls
命令來檢視已設定的轉換規則。
mc ilm rule ls ALIAS/PATH --transition