物件管理
物件是二進位資料,例如影像、音訊檔案、試算表,甚至是二進位可執行程式碼。「二進位大型物件」或「blob」一詞有時與物件儲存相關聯,儘管 blob 的大小可能從幾個位元組到幾 TB 不等。像 MinIO 這樣的物件儲存平台提供專用工具和功能,用於使用標準 S3 相容 API 儲存、列出和擷取物件。
對磁碟機的獨佔存取
MinIO 需要 獨佔 存取提供用於物件儲存的磁碟機或磁碟區。其他處理程序、軟體、腳本或人員都不應直接對提供給 MinIO 的磁碟機或磁碟區或 MinIO 將物件或檔案放置在其上的磁碟機或磁碟區執行任何動作。
除非 MinIO 工程部門指示,否則請勿使用腳本或工具直接修改、刪除或移動提供的磁碟機上的任何資料分片、同位分片或中繼資料檔案,包括從一個磁碟機或節點到另一個磁碟機或節點。此類操作很可能導致廣泛的損毀和資料遺失,超出 MinIO 的修復能力。
MinIO 物件儲存使用儲存貯體來組織物件。儲存貯體類似於檔案系統中的頂層磁碟機、資料夾或目錄 (/mnt/data
或 C:\
),其中每個儲存貯體可以容納任意數量的物件。
MinIO 伺服器上的物件結構可能如下所示
/ #root
/images/
2020-01-02-MinIO-Diagram.png
2020-01-03-MinIO-Advanced-Deployment.png
MinIO-Logo.png
/videos/
2020-01-04-MinIO-Interview.mp4
/articles/
/john.doe/
2020-01-02-MinIO-Object-Storage.md
2020-01-02-MinIO-Object-Storage-comments.json
/jane.doe/
2020-01-03-MinIO-Advanced-Deployment.png
2020-01-02-MinIO-Advanced-Deployment-comments.json
2020-01-04-MinIO-Interview.md
在範例結構中,管理員會建立 /images
、/videos
和 /articles
儲存貯體。用戶端應用程式會使用物件的完整「路徑」 (包括所有中間前綴) 將物件寫入這些儲存貯體。
MinIO 支援使用前綴的多個巢狀目錄和物件層級,以支援甚至最動態的物件儲存工作負載。MinIO 會自動從完整物件路徑推斷中間前綴,例如 /articles/john.doe
,使用 /
作為分隔符號。用戶端和管理員不應手動建立這些前綴。
用戶端和管理員都不會手動建立中間前綴,因為 MinIO 會自動從物件名稱中推斷它們。
路徑與虛擬主機儲存貯體存取
MinIO 支援路徑樣式 (預設) 或虛擬主機儲存貯體查閱。
例如,考慮一個已指派完整網域名稱 (FQDN) 為 minio.example.net
的 MinIO 部署
使用路徑樣式查閱,應用程式會指定儲存貯體的完整路徑,例如
minio.example.net/mybucket
。使用虛擬主機查閱,應用程式會將儲存貯體指定為子網域,例如
mybucket.minio.example.net/
。
某些應用程式在對 MinIO 執行 S3 操作時可能需要或期望虛擬主機查閱支援。若要啟用虛擬主機儲存貯體查閱,您必須將 MINIO_DOMAIN
環境變數設定為解析為 MinIO 部署的 FQDN。
如果您設定了 MINIO_DOMAIN
,您必須將指定 FQDN 的所有子網域視為專門指派用於儲存桶名稱。任何與這些網域衝突的 MinIO 服務,例如複製目標,可能會因衝突而出現意外或不希望發生的行為。
例如,如果設定 MINIO_DOMAIN=minio.example.net
,您不能將 minio.example.net
的任何子網域(以 *.minio.example.net
的形式)指派給任何 MinIO 服務或目標。這包括用於 儲存桶、批次 或 站點複製 的主機名稱。
重要事項
對於啟用 TLS 的部署,您必須確保您的 TLS 憑證 SAN 涵蓋指定給 MINIO_DOMAIN
的最左側網域的所有子網域。
例如,MINIO_DOMAIN=minio.example.net
的範例需要一個涵蓋 minio.example.net
子網域的 TLS SAN。您可以設定額外的 TLS SAN *.minio.example.net
來適當涵蓋子網域命名空間。
TLS 萬用字元規則會阻止鏈接到其他子網域層級,因此具有 *.example.net
的萬用字元 SAN 的 TLS 憑證不會涵蓋 *.minio.example.net
的虛擬主機查詢。
物件組織與規劃
管理員通常會控制儲存桶的建立和設定。然後,用戶端應用程式可以使用 與 S3 相容的 SDK,在 MinIO 部署上建立、列出、檢索和刪除物件。因此,用戶端會驅動給定儲存桶或字首內資料的整體階層,而管理員可以使用 政策來控制,以授與或拒絕對動作或資源的存取權。
MinIO 對於給定部署上的儲存桶、物件或字首的數量沒有硬性的 臨界值。MinIO 部署的硬體和網路的相對效能可能會對給定字首或儲存桶中的物件數量產生實際限制。特別是,使用較慢磁碟機或網路基礎架構的硬體,在物件階層扁平的儲存桶或字首中往往會表現出較差的效能。如需其他考量、臨界值或注意事項,請參閱臨界值和限制。
請考慮以下幾點作為用戶端應用程式工作負載模式的一般指南
具有適度或以預算為重點的硬體部署,應將其工作負載架構為每個字首鎖定 10,000 個物件作為基準。根據基準測試和實際工作負載的監控來增加此目標,直到硬體能夠有意義地處理為止。
具有高效能或企業級 硬體的部署,通常可以處理具有數百萬個或更多物件的字首。
MinIO SUBNET 企業帳戶可以將年度架構審查作為部署和維護策略的一部分,以確保您依賴 MinIO 的專案的長期效能和成功。
如需更深入討論限制字首內容的優點,請參閱關於最佳化 S3 效能的文章。
物件版本控制
在儲存桶上進行寫入、列出、取得或刪除作業的特定用戶端行為,取決於該儲存桶的版本控制狀態
作業 |
已啟用版本控制 |
已停用 | 暫停版本控制 |
---|---|---|
|
建立物件的新完整版本作為「最新」版本,並指派唯一版本 ID |
使用命名空間比對覆寫來建立物件。 |
|
依預設檢索物件的最新版本 支援依版本 ID 檢索任何物件版本。 |
檢索物件 |
|
檢索指定儲存桶或字首中的最新版本物件 支援檢索所有物件及其相關聯的版本 ID。 |
檢索指定儲存桶或字首中的所有物件 |
|
為物件建立 0 位元組的「刪除標記」作為「最新」版本(軟刪除) 支援依版本 ID 刪除任何物件版本(硬刪除)。您無法復原硬刪除作業。 如需更多資訊,請參閱物件刪除。 |
刪除物件 |
如需更完整的說明文件,請參閱儲存桶版本控制。
物件標籤
MinIO 支援將自訂標籤新增至物件。標籤是包含在物件中繼資料中的鍵值配對。標籤可用於控制具有政策的存取權,或使用 mc find --tags
尋找物件。
MinIO 支援將最多 10 個自訂標籤新增至物件。
如需設定標籤的更多資訊,請參閱mc tag set
。
物件保留
MinIO 物件鎖定(「物件保留」)強制實施一次寫入多次讀取 (WORM) 不可變性,以保護版本控制的物件免於刪除。MinIO 支援以持續時間為基礎的物件保留和無限期的法律保留。
對 WORM 鎖定物件的刪除作業取決於特定作業
未指定版本 ID 的刪除作業會導致建立「刪除標記」
指定鎖定物件之版本 ID 的刪除作業會導致 WORM 鎖定錯誤
您只能在首次建立儲存桶時啟用物件鎖定。啟用儲存桶鎖定也會啟用版本控制。
MinIO 物件鎖定可提供重要的資料保留合規性,並符合 SEC17a-4(f)、FINRA 4511(C) 和 CFTC 1.31(c)-(d) 要求,如 Cohasset Associates 所述。
如需更完整的說明文件,請參閱MinIO 物件鎖定和物件刪除。
物件生命週期管理
MinIO 物件生命週期管理允許建立以時間或日期為基礎的自動轉換或物件過期規則。對於物件轉換,MinIO 會自動將物件移至設定的遠端儲存層。對於物件過期,MinIO 會自動刪除物件。
MinIO 會在版本控制和未版本控制的儲存桶上套用生命週期管理規則,使用與正常用戶端作業相同的行為。您可以指定處理最新物件版本、非最新物件版本或兩者的轉換或生命週期規則。
MinIO 生命週期管理是專為與 AWS S3 生命週期管理的行為和語法相容性而建置的。MinIO 使用 JSON 來描述生命週期管理規則。從 S3 或類似相容平台上建立的規則匯入或匯出時,可能需要轉換為 XML 或從 XML 轉換。
如需更完整的說明文件,請參閱物件生命週期管理。
目標儲存桶考量
MinIO 不 要求目標儲存桶與來源儲存桶的物件管理或版本控制設定相符。如果經過謹慎定義,目標儲存桶可以有其自身的一組物件管理規則。
目標儲存桶不應針對物件的過期或額外分層設定規則。過期規則可能導致來源儲存桶仍在使用的分層資料被移除。分層到額外的遠端會增加熱層與其資料之間的網路躍點,同時也會增加操作複雜性。
您可以在遠端儲存桶上設定物件鎖定或版本控制。
在目標儲存桶上啟用版本控制或物件鎖定可能會產生以下影響:
在目標儲存桶上設定的物件鎖定可能會阻止來源儲存桶中所需的
delete
操作完成。MinIO 使用自己的
UUID
分層物件,因此在目標儲存桶上進行版本控制充其量是多餘的。目標儲存桶的儲存效率降低,因為
delete
操作會導致建立DeleteMarker
,而不是釋放空間。來源和目標儲存桶上重複的刪除標記。
遠端資料的獨佔存取權
MinIO 必須擁有對目標儲存桶的獨佔存取權。其他使用者、程序、應用程式或資源不應對目標儲存桶進行任何存取或執行任何操作。
所有對已轉換物件的存取必須僅透過 MinIO 使用 S3 API 操作進行。 手動修改已轉換的物件(無論是「熱」MinIO 層上的中繼資料還是遠端「溫/冷」層上的物件資料)都可能導致該物件資料遺失。
MinIO 會忽略遠端儲存桶或儲存桶前綴中任何未由 MinIO 部署明確管理的物件。 自動轉換和透明的物件檢索取決於以下假設:
遠端儲存上的物件沒有外部變更、遷移或刪除。
遠端儲存桶上沒有生命週期管理規則(例如轉換或過期)。
為了方便這種獨佔存取,請授予生命週期管理使用者在其 政策 中對目標儲存桶的 read
、write
和 delete
存取權。所有其他政策都應 deny
對目標儲存桶的存取。