物件管理
一個 物件 是二進位資料,例如圖像、音訊檔案、試算表,甚至是二進位可執行程式碼。「二進位大型物件」或「blob」一詞有時與物件儲存相關聯,儘管 blob 的大小可能從幾個位元組到數 TB 不等。物件儲存平台(如 MinIO)提供專用工具和功能,用於使用標準的 S3 相容 API 來儲存、列出和擷取物件。
獨佔存取磁碟機
MinIO 需要 獨佔 存取提供用於物件儲存的磁碟機或磁碟區。其他任何進程、軟體、腳本或人員都不應直接對提供給 MinIO 的磁碟機或磁碟區,或 MinIO 放置在其上的物件或檔案執行任何動作。
除非 MinIO 工程部門指示,否則請勿使用腳本或工具直接修改、刪除或移動所提供磁碟機上的任何資料分片、同位分片或中繼資料檔案,包括從一個磁碟機或節點移動到另一個磁碟機或節點。此類操作很可能會導致廣泛的損毀和資料遺失,超出 MinIO 的修復能力。
MinIO 物件儲存使用 儲存貯體 來組織物件。儲存貯體類似於檔案系統中的頂層磁碟機、資料夾或目錄(/mnt/data
或 C:\
),其中每個儲存貯體可以容納任意數量的物件。
MinIO 伺服器上的物件結構可能如下所示
/ #root
/images/
2020-01-02-MinIO-Diagram.png
2020-01-03-MinIO-Advanced-Deployment.png
MinIO-Logo.png
/videos/
2020-01-04-MinIO-Interview.mp4
/articles/
/john.doe/
2020-01-02-MinIO-Object-Storage.md
2020-01-02-MinIO-Object-Storage-comments.json
/jane.doe/
2020-01-03-MinIO-Advanced-Deployment.png
2020-01-02-MinIO-Advanced-Deployment-comments.json
2020-01-04-MinIO-Interview.md
使用範例結構,管理員將建立 /images
、/videos
和 /articles
儲存貯體。用戶端應用程式使用該物件的完整「路徑」(包括所有中間 字首)將物件寫入這些儲存貯體。
MinIO 支援多層巢狀目錄和物件,並使用前綴來支援最動態的物件儲存工作負載。MinIO 會自動推斷中間前綴,例如 /articles/john.doe
,從完整物件路徑使用 /
作為分隔符號。用戶端和管理員不應手動建立這些前綴。
用戶端和管理員都不會手動建立中間前綴,因為 MinIO 會從物件名稱自動推斷它們。
路徑與虛擬主機儲存桶存取
例如,考慮一個已指定完整網域名稱 (FQDN) 為 minio.example.net
的 MinIO 部署。
使用路徑樣式查詢時,應用程式會指定儲存桶的完整路徑,例如
minio.example.net/mybucket
。使用虛擬主機查詢時,應用程式會將儲存桶指定為子網域,例如
mybucket.minio.example.net/
。
某些應用程式在針對 MinIO 執行 S3 操作時,可能需要或期望虛擬主機查詢支援。若要啟用虛擬主機儲存桶查詢,您必須將 MINIO_DOMAIN
環境變數設定為解析到 MinIO 部署的 FQDN。
如果您設定 MINIO_DOMAIN
,您必須將指定 FQDN 的所有子網域都視為專門指派給用作儲存桶名稱。任何與這些網域衝突的 MinIO 服務,例如複寫目標,都可能因衝突而表現出意外或不想要的行為。
例如,如果設定 MINIO_DOMAIN=minio.example.net
,您不能將 minio.example.net
的任何子網域(以 *.minio.example.net
的形式)指派給任何 MinIO 服務或目標。這包括用於儲存桶、批次或站點複寫的主機名稱。
重要
對於啟用 TLS的部署,您必須確保您的 TLS 憑證 SAN 涵蓋指定給 MINIO_DOMAIN
的最左側網域的所有子網域。
例如,MINIO_DOMAIN=minio.example.net
的範例需要涵蓋 minio.example.net
子網域的 TLS SAN。您可以設定額外的 *.minio.example.net
TLS SAN 來適當涵蓋子網域命名空間。
TLS 萬用字元規則會阻止連結到其他子網域層級,因此具有 *.example.net
萬用字元 SAN 的 TLS 憑證不會涵蓋 *.minio.example.net
的虛擬主機查詢。
物件組織與規劃
管理員通常會控制儲存桶的建立和設定。然後,用戶端應用程式可以使用與 S3 相容的 SDK,在 MinIO 部署上建立、列出、擷取和刪除物件。因此,用戶端會推動給定儲存桶或前綴內資料的整體階層結構,而管理員可以使用政策來行使控制權,以授予或拒絕對動作或資源的存取權。
MinIO 對於給定部署上的儲存桶、物件或前綴數量沒有硬性的閾值。MinIO 部署的硬體和網路的相對效能可能會對給定前綴或儲存桶中的物件數量造成實際限制。具體來說,使用較慢的磁碟機或網路基礎架構的硬體在具有平面物件階層的儲存桶或前綴中往往表現出較差的效能。如需其他考量、閾值或需要注意的限制,請參閱閾值和限制。
請將以下幾點視為用戶端應用程式工作負載模式的一般指南
具有適中或以預算為重點的硬體的部署應將其工作負載架構為以每個前綴 10,000 個物件為基準。根據基準測試和實際工作負載監控,將此目標提高到硬體可以有意義地處理的範圍。
具有高效能或企業級硬體的部署通常可以處理數百萬個或更多物件的前綴。
MinIO SUBNET 企業帳戶可以利用年度架構審查作為部署和維護策略的一部分,以確保您依賴 MinIO 的專案的長期效能和成功。
如需深入討論限制前綴內容的好處,請參閱關於優化 S3 效能的文章。
物件版本控制
在儲存桶上執行寫入、列出、取得或刪除操作的特定用戶端行為取決於該儲存桶的版本控制狀態
操作 |
版本控制已啟用 |
版本控制已停用 | 已暫停 |
---|---|---|
|
建立物件的新完整版本作為「最新」,並指派唯一的版本 ID |
建立物件,並在命名空間符合時覆寫。 |
|
預設擷取物件的最新版本 支援依版本 ID 擷取任何物件版本。 |
擷取物件 |
|
擷取指定儲存桶或前綴中物件的最新版本 支援擷取所有具有相關聯版本 ID 的物件。 |
擷取指定儲存桶或前綴中的所有物件 |
|
為物件建立 0 位元組的「刪除標記」作為「最新」(軟刪除) 支援依版本 ID 刪除任何物件版本 (硬刪除)。您無法復原硬刪除操作。 如需詳細資訊,請參閱物件刪除。 |
刪除物件 |
如需更完整的說明文件,請參閱儲存桶版本控制。
物件標籤
MinIO 支援將自訂標籤新增至物件。標籤是包含在物件中繼資料中的鍵值對。標籤可用於透過政策控制存取,或使用 mc find --tags
尋找物件。
MinIO 支援將最多 10 個自訂標籤新增至物件。
如需設定標籤的詳細資訊,請參閱mc tag set
。
物件保留
MinIO 物件鎖定(「物件保留」)強制執行單次寫入多次讀取 (WORM) 不可變性,以保護版本控制物件免於刪除。MinIO 支援基於期間的物件保留和無限期法律保留。
針對 WORM 鎖定物件的刪除操作取決於特定操作
未指定版本 ID 的刪除操作會建立「刪除標記」
指定鎖定物件的版本 ID 的刪除操作會導致 WORM 鎖定錯誤
您只能在首次建立儲存桶時啟用物件鎖定。啟用儲存桶鎖定也會啟用版本控制。
MinIO 物件鎖定提供關鍵的資料保留合規性,並符合 Cohasset Associates 所述的 SEC17a-4(f)、FINRA 4511(C) 和 CFTC 1.31(c)-(d) 要求,如 Cohasset Associates 所述。
如需更完整的說明文件,請參閱MinIO 物件鎖定和物件刪除。
物件生命週期管理
MinIO 物件生命週期管理允許建立規則,以根據時間或日期自動轉換或過期物件。對於物件轉換,MinIO 會自動將物件移至設定的遠端儲存層。對於物件過期,MinIO 會自動刪除物件。
MinIO 會使用與一般用戶端操作相同的行為,在版本控制和未版本控制的儲存桶上套用生命週期管理規則。您可以指定處理最新物件版本、非目前物件版本或兩者的轉換或生命週期規則。
MinIO 生命週期管理是針對行為和語法與AWS S3 生命週期管理的相容性而建置的。MinIO 使用 JSON 來描述生命週期管理規則。匯入在 S3 或類似相容平台上建立的規則時,可能需要轉換為 XML 或從 XML 轉換。
如需更完整的說明文件,請參閱物件生命週期管理。
目標儲存桶考量
MinIO 不 要求目標儲存桶與來源儲存桶的物件管理或版本控制設定相符。目標儲存桶可以有其自己的一組物件管理規則,如果謹慎定義的話。
目標儲存桶不應有其自己的過期或額外分層規則。過期規則可能會導致移除來源儲存桶仍在使用的分層資料。分層到額外的遠端會於熱層及其資料之間建立額外的網路跳躍,同時也會增加操作複雜性。
您可以在遠端儲存桶上設定物件鎖定或版本控制。
在目標儲存桶上啟用版本控制或物件鎖定可能會產生如下的影響:
在目標儲存桶上設定的物件鎖定可能會阻止來源儲存桶完成所需的
delete
操作。MinIO 會使用其自己的
UUID
對物件進行分層,因此目標儲存桶上的版本控制充其量是多餘的。目標上的儲存效率降低,因為
delete
操作會導致建立DeleteMarker
,而不是釋放空間。來源和目標儲存桶上的重複刪除標記。
遠端資料的獨佔存取權
MinIO 必須對目標儲存桶具有獨佔存取權。其他使用者、程序、應用程式或資源都不應存取或對目標儲存桶執行任何動作。
所有對已轉換物件的存取必須僅透過 MinIO,並透過 S3 API 操作進行。手動修改已轉換的物件(無論是「熱」MinIO 層上的中繼資料,還是遠端「溫/冷」層上的物件資料)都可能導致該物件資料遺失。
MinIO 會忽略遠端儲存桶或儲存桶前綴中,未由 MinIO 部署明確管理的任何物件。自動轉換和透明物件檢索依賴以下假設:
遠端儲存上的物件沒有外部變更、遷移或刪除。
遠端儲存儲存桶上沒有生命週期管理規則(例如轉換或過期)。
為了方便這種獨佔存取,請授予生命週期管理使用者對其 政策中目標儲存桶的 read
、write
和 delete
存取權。所有其他政策都應 deny
對目標儲存桶的存取。