文件

發佈事件到 Elasticsearch

MinIO 支援將儲存桶通知事件發佈到 Elasticsearch 服務端點。

MinIO 依賴 https://github.com/elastic/go-elasticsearch v7 專案進行 Elastic 連線。

將 Elasticsearch 端點新增至 MinIO 部署

以下程序會新增一個新的 Elasticsearch 服務端點,以支援 MinIO 部署中的儲存桶通知

先決條件

Elasticsearch v7.0 及更新版本

MinIO 依賴 https://github.com/olivere/elastic v7 專案進行 Elastic 連線。elastic/v7 程式庫專門針對 Elasticsearch v7.0,且與較早版本的 Elasticsearch 不相容

MinIO mc 命令列工具

此程序會使用 mc 命令列工具執行某些動作。請參閱 mc 快速入門以取得安裝說明。

1) 將 Elasticsearch 端點新增至 MinIO

您可以使用環境變數設定執行時間設定來設定新的 Elasticsearch 服務端點。

MinIO 支援使用環境變數指定 Elasticsearch 服務端點和相關的組態設定。 minio server 程序會在下次啟動時套用指定的設定。

以下範例程式碼設定與組態 Elasticsearch 服務端點相關的所有環境變數。最少需要的變數為:

set MINIO_NOTIFY_ELASTICSEARCH_ENABLE_<IDENTIFIER>="on"
set MINIO_NOTIFY_ELASTICSEARCH_URL_<IDENTIFIER>="<ENDPOINT>"
set MINIO_NOTIFY_ELASTICSEARCH_INDEX_<IDENTIFIER>="<string>"
set MINIO_NOTIFY_ELASTICSEARCH_FORMAT_<IDENTIFIER>="<string>"
set MINIO_NOTIFY_ELASTICSEARCH_USERNAME_<IDENTIFIER>="<string>"
set MINIO_NOTIFY_ELASTICSEARCH_PASSWORD_<IDENTIFIER>="<string>"
set MINIO_NOTIFY_ELASTICSEARCH_QUEUE_DIR_<IDENTIFIER>="<string>"
set MINIO_NOTIFY_ELASTICSEARCH_QUEUE_LIMIT_<IDENTIFIER>="<string>"
set MINIO_NOTIFY_ELASTICSEARCH_COMMENT_<IDENTIFIER>="<string>"
  • <IDENTIFIER> 替換為 TARGET 服務端點的唯一描述性字串。對於與新目標服務端點相關的所有環境變數,請使用相同的 <IDENTIFIER> 值。以下範例假設識別碼為 PRIMARY

    如果指定的 <IDENTIFIER> 與 MinIO 部署上現有的 Elasticsearch 服務端點相符,則新設定會覆寫該端點的任何現有設定。使用 mc admin config get notify_elasticsearch 來檢閱 MinIO 部署上目前已組態的 Elasticsearch 端點。

  • <ENDPOINT> 替換為 Elasticsearch 服務端點的 URL。例如:

請參閱儲存貯體通知的 Elasticsearch 服務,以取得每個環境變數的完整文件。

MinIO 支援使用 mc admin config set 命令和 notify_elasticsearch 組態金鑰,在執行中的 minio server 程序上新增或更新 Elasticsearch 端點。您必須重新啟動 minio server 程序,才能套用任何新的或更新的組態設定。

以下範例程式碼設定與組態 Elasticsearch 服務端點相關的所有設定。最少需要的設定為:

mc admin config set ALIAS/ notify_elasticsearch:IDENTIFIER \
   url="ENDPOINT" \
   index="<string>" \
   format="<string>" \
   username="<string>" \
   password="<string>" \
   queue_dir="<string>" \
   queue_limit="<string>" \
   comment="<string>"
  • IDENTIFIER 替換為 Elasticsearch 服務端點的唯一描述性字串。此程序中的以下範例假設識別碼為 PRIMARY

    如果指定的 IDENTIFIER 與 MinIO 部署上現有的 Elasticsearch 服務端點相符,則新設定會覆寫該端點的任何現有設定。使用 mc admin config get notify_elasticsearch 來檢閱 MinIO 部署上目前已組態的 Elasticsearch 端點。

  • ENDPOINT 替換為 Elasticsearch 服務端點的 URL。例如:

    https://user:password@hostname:port

請參閱Elasticsearch 儲存貯體通知組態設定,以取得每個設定的完整文件。

2) 重新啟動 MinIO 部署

您必須重新啟動 MinIO 部署才能套用組態變更。使用 mc admin service restart 命令來重新啟動部署。

mc admin service restart ALIAS

ALIAS 替換為要重新啟動之部署的別名

minio server 程序會在啟動時,針對每個已組態的 Elasticsearch 目標列印類似以下的行:

SQS ARNs: arn:minio:sqs::primary:elasticsearch

當您將相關的 Elasticsearch 部署組態為目標時,必須指定 ARN 資源,才能組態儲存貯體通知。

識別儲存貯體通知的 ARN

您先前在建立端點時定義了 <IDENTIFIER>,以指派給儲存貯體通知的目標 ARN。以下步驟會傳回部署上已組態的 ARN。尋找您指定的 <IDENTIFIER>,以識別先前建立的 ARN。

檢閱 JSON 輸出

  1. 複製並執行以下命令,將 ALIAS 替換為部署的 別名

    mc admin info --json ALIAS
    
  2. 在 JSON 輸出中,尋找金鑰 info.sqsARN

    您需要的 ARN 是與您指定的 <IDENTIFIER> 相符的金鑰值。

    例如,arn:minio:sqs::primary:elasticsearch

使用 jq 來剖析 JSON 以取得值

  1. 安裝 jq

  2. 複製並執行以下命令,將 ALIAS 替換為部署的 別名

    mc admin info --json ALIAS | jq  .info.sqsARN
    

    這會傳回用於通知的 ARN,例如 arn:minio:sqs::primary:elasticsearch

3) 使用 Elasticsearch 端點作為目標來組態儲存貯體通知

使用 mc event add 命令新增儲存貯體通知事件,並將已組態的 Elasticsearch 服務作為目標

mc event add ALIAS/BUCKET arn:minio:sqs::primary:elasticsearch \
  --event EVENTS
  • ALIAS 替換為 MinIO 部署的 別名

  • BUCKET 替換為要在其中組態事件的儲存貯體的名稱。

  • EVENTS 替換為以逗號分隔的 事件清單,MinIO 將針對這些事件觸發通知。

使用 mc event ls 來檢視指定通知目標的所有已組態的儲存貯體事件

mc event ls ALIAS/BUCKET arn:minio:sqs::primary:elasticsearch

4) 驗證已組態的事件

在您組態新事件的儲存貯體上執行動作,並檢查 Elasticsearch 服務是否有通知資料。所需的動作取決於組態儲存貯體通知時指定的 events

例如,如果儲存貯體通知組態包含 s3:ObjectCreated:Put 事件,您可以使用 mc cp 命令在儲存貯體中建立新物件並觸發通知。

mc cp ~/data/new-object.txt ALIAS/BUCKET

更新 MinIO 部署中的 Elasticsearch 端點

以下程序會更新現有的 Elasticsearch 服務端點,以支援 MinIO 部署中的儲存貯體通知

必要條件

Elasticsearch v7.0 和更新版本

MinIO 依賴 https://github.com/olivere/elastic v7 專案進行 Elastic 連線。elastic/v7 程式庫專門針對 Elasticsearch v7.0,且與較早版本的 Elasticsearch 不相容

MinIO mc 命令列工具

此程序會使用 mc 命令列工具執行某些動作。請參閱 mc 快速入門以取得安裝說明。

1) 列出部署中已組態的 Elasticsearch 端點

使用 mc admin config get 命令列出部署中目前已組態的 Elasticsearch 服務端點

mc admin config get ALIAS/ notify_elasticsearch

ALIAS 替換為 MinIO 部署的 別名

命令輸出類似如下:

notify_elasticsearch:primary  queue_dir="" queue_limit="0"  url="https://user:password@hostname:port" format="namespace" index=""
notify_elasticsearch:secondary queue_dir="" queue_limit="0"  url="https://user:password@hostname:port" format="namespace" index=""

mc admin config set ALIAS/ notify_elasticsearch:<IDENTIFIER> \
   url="https://user:password@hostname:port" \
   index="<string>" \
   format="<string>" \
   username="<string>" \
   password="<string>" \
   queue_dir="<string>" \
   queue_limit="<string>" \
   comment="<string>"

您必須重新啟動 MinIO 部署才能套用組態變更。使用 mc admin service restart 命令來重新啟動部署。

mc admin service restart ALIAS

ALIAS 替換為要重新啟動之部署的別名

minio server 程序會在啟動時,針對每個已組態的 Elasticsearch 目標列印類似以下的行:

SQS ARNs: arn:minio:sqs::primary:elasticsearch

例如,如果儲存貯體通知組態包含 s3:ObjectCreated:Put 事件,您可以使用 mc cp 命令在儲存貯體中建立新物件並觸發通知。

mc cp ~/data/new-object.txt ALIAS/BUCKET