在 GKE 上部署 Weaviate 向量資料庫

設定環境

如要使用 Cloud Shell 設定環境，請按照下列步驟操作：

1. 為專案、區域和 Kubernetes 叢集資源前置字串設定環境變數：

   export PROJECT_ID=PROJECT_ID
   export KUBERNETES_CLUSTER_PREFIX=weaviate
   export REGION=us-central1
   

   將 PROJECT_ID 替換為 Google Cloud專案 ID。

   本教學課程使用 us-central1 地區建立部署資源。

2. 檢查 Helm 版本：

   helm version
   

   如果版本舊於 3.13，請更新版本：

   curl https://raw.githubusercontent.com/helm/helm/main/scripts/get-helm-3 | bash
   

3. 從 GitHub 複製程式碼範例存放區：

   git clone https://github.com/GoogleCloudPlatform/kubernetes-engine-samples
   

4. 請前往 weaviate 目錄：

   cd kubernetes-engine-samples/databases/weaviate
   

建立叢集基礎架構

在本節中，您將執行 Terraform 指令碼，建立高可用性的區域性私人 GKE 叢集，以部署 Weaviate 資料庫。

您可以選擇使用Standard 或 Autopilot 叢集部署 Weaviate。每種都有各自的優點和不同���計費模式。

export GOOGLE_OAUTH_ACCESS_TOKEN=$(gcloud auth print-access-token)
terraform -chdir=terraform/gke-autopilot init
terraform -chdir=terraform/gke-autopilot apply \
-var project_id=${PROJECT_ID} \
-var region=${REGION} \
-var cluster_prefix=${KUBERNETES_CLUSTER_PREFIX}

...
Apply complete! Resources: 9 added, 0 changed, 0 destroyed.

Outputs:

kubectl_connection_command = "gcloud container clusters get-credentials weaviate-cluster --region us-central1"

export GOOGLE_OAUTH_ACCESS_TOKEN=$(gcloud auth print-access-token)
terraform -chdir=terraform/gke-standard init
terraform -chdir=terraform/gke-standard apply \
-var project_id=${PROJECT_ID} \
-var region=${REGION} \
-var cluster_prefix=${KUBERNETES_CLUSTER_PREFIX}

...
Apply complete! Resources: 10 added, 0 changed, 0 destroyed.

Outputs:

kubectl_connection_command = "gcloud container clusters get-credentials weaviate-cluster --region us-central1"

連線至叢集

設定 kubectl，以擷取憑證並與新的 GKE 叢集通訊：

gcloud container clusters get-credentials \
    ${KUBERNETES_CLUSTER_PREFIX}-cluster --location ${REGION}

將 Weaviate 資料庫部署至叢集

如要使用 Helm 圖表將 Weaviate 資料庫部署至 GKE 叢集，請按照下列步驟操作：

1. 如要在 GKE 叢集上部署 Weaviate 資料庫，請先新增 Helm Chart 存放區：

   helm repo add weaviate https://weaviate.github.io/weaviate-helm
   

2. 為資料庫建立 weaviate 命名空間：

   kubectl create ns weaviate
   

3. 建立 Secret 來儲存 API 金鑰：

   kubectl create secret generic apikeys --from-literal=AUTHENTICATION_APIKEY_ALLOWED_KEYS=$(openssl rand -base64 32) -n weaviate
   

4. 部署內部負載平衡器，從虛擬網路內存取 Weaviate：

   kubectl apply -n weaviate -f manifests/05-ilb/ilb.yaml
   

   ilb.yaml 資訊清單說明負載平衡器服務：

   apiVersion: v1
   kind: Service
   metadata:
     annotations:
       #cloud.google.com/neg: '{"ingress": true}'
       networking.gke.io/load-balancer-type: "Internal"
     labels:
       app.kubernetes.io/name: weaviate
     name: weaviate-ilb
   spec:
     ports:
     - name: http
       port: 8080
       protocol: TCP
       targetPort: 8080
     - name: grpc
       port: 50051
       protocol: TCP
       targetPort: 50051
     selector:
       app: weaviate
     type: LoadBalancer

5. 套用資訊清單來部署 Weaviate 叢集：

   helm upgrade --install "weaviate" weaviate/weaviate \
   --namespace "weaviate" \
   --values ./manifests/01-basic-cluster/weaviate_cluster.yaml
   

   weaviate_cluster.yaml 資訊清單會說明 Deployment。 Deployment 是 Kubernetes API 物件，可讓您執行多個 Pod 副本，並將這些副本分散到叢集中的節點：

   initContainers:
     sysctlInitContainer:
       enabled: false
     extraInitContainers: {}
   resources: 
      requests:
        cpu: '1'
        memory: '4Gi'
      limits:
        cpu: '2'
        memory: '4Gi'
   replicas: 3
   storage:
     size: 10Gi
     storageClassName: "premium-rwo"
   service:
     name: weaviate
     ports:
       - name: http
         protocol: TCP
         port: 80
     type: ClusterIP
   grpcService:
     enabled: true
     name: weaviate-grpc
     ports:
       - name: grpc
         protocol: TCP
         port: 50051
     type: ClusterIP
   authentication:
     anonymous_access:
       enabled: false
   authorization:
     admin_list:
       enabled: true
       users:
         - admin@example.com
   modules:
     text2vec-palm:
       enabled: true
   env:
     AUTHENTICATION_APIKEY_ENABLED: 'true'
     AUTHENTICATION_APIKEY_USERS: 'admin@example.com'
     PROMETHEUS_MONITORING_ENABLED: true
   envSecrets:
     AUTHENTICATION_APIKEY_ALLOWED_KEYS: apikeys
   tolerations:
     - key: "app.stateful/component"
       operator: "Equal"
       value: "weaviate"
       effect: NoSchedule

   請稍候幾分鐘，等待 Weaviate 叢集完全啟動。

6. 檢查部署狀態：

   kubectl get weaviate -n weaviate --watch
   

   如果成功部署 weaviate 資料庫，輸出內容會類似以下內容：

   NAME: weaviate
   LAST DEPLOYED: Tue Jun 18 13:15:53 2024
   NAMESPACE: weaviate
   STATUS: deployed
   REVISION: 1
   TEST SUITE: None
   

7. 等待 Kubernetes 啟動資源：

   kubectl wait pods -l app.kubernetes.io/name=weaviate --for condition=Ready --timeout=300s -n weaviate
   

使用 Vertex AI Colab Enterprise 筆記本執行查詢

本節說明如何使用 Colab Enterprise 連線至 Weaviate 資料庫。您���以透過專屬的執行階段範本部署至 weaviate-vpc，讓筆記本與 GKE 叢集中的資源通訊。

如要進一步瞭解 Vertex AI Colab Enterprise，請參閱 Colab Enterprise 說明文件。

建立執行階段範本

如要建立 Colab Enterprise 執行階段範本，請按照下列步驟操作：

1. 前往 Google Cloud 控制台的 Colab Enterprise「執行階段範本」頁面，並確認已選取專案：

   前往「執行階段範本」

2. 按一下「新增範本」add_box。「建立新的執行階段範本」頁面隨即顯示。

3. 在「執行階段基本資訊」部分：

   • 在「Display name」(顯示名稱) 欄位中，輸入 weaviate-connect。
   • 在「Region」(區域) 下拉式清單中選取「us-central1」。與 GKE 叢集位於相同區域。

4. 在「設定運算」部分：

   • 在「機型」 下拉式選單中，選取「e2-standard-2」。
   • 在「Disk size」(磁碟大小) 欄位中，輸入 30。

5. 在「網路與安全性」部分中：

   • 在「Network」(網路) 下拉式選單中，選取 GKE 叢集所在的網路。
   • 在「Subnetwork」(子網路) 下拉式清單中，選取對應的子網路。
   • 取消勾選「啟用公開網際網路存取權」核取方塊。

6. 按一下「建立」，完成建立執行階段範本。執行階段範本會顯示在「執行階段範本」分頁的清單中。

建立執行階段

如要建立 Colab Enterprise 執行階段，請按照下列步驟操作：

1. 在剛建立的範本執行階段範本清單中，按一下「動作」欄中的 more_vert，然後點選「建立執行階段」。「建立 Vertex AI 執行階段」窗格隨即顯示。

2. 如要根據範本建立執行階段，請按一下「建立」。

3. 在開啟的「執行階段」分頁中，等待狀態轉換為「正常」。

匯入筆記本

如要在 Colab Enterprise 中匯入筆記本，請按照下列步驟操作：

1. 前往「我的筆記本」分頁，然後按一下「匯入」。「匯入筆記本」窗格隨即顯示。

2. 在「匯入來源」中選取「網址」。

3. 在「筆記本網址」下方，輸入下列連結：

   https://raw.githubusercontent.com/GoogleCloudPlatform/kubernetes-engine-samples/main/databases/weaviate/manifests/02-notebook/vector-database.ipynb
   

4. 按一下「匯入」。

連線至執行階段並執行查詢

如要連線至執行階段並執行查詢，請按照下列步驟操作：

1. 在筆記本中，按一下「連線」按鈕旁邊的 arrow_drop_down「其他連線選項」。 系統隨即會顯示「連線至 Vertex AI 執行階段」窗格。

2. 選取 連線到執行階段，然後選取 連線至現有的執行階段。

3. 選取您啟動的執行階段，然後按一下「連線」。

4. 如要執行筆記本儲存格，請按一下每個程式碼儲存格旁的「Run cell」(執行儲存格) 按鈕。

筆記本包含程式碼儲存格和說明每個程式碼區塊的文字。執行程式碼儲存格會執行指令並顯示輸出內容。您可以依序執行儲存格，也可以視需要執行個別儲存格。

查看叢集的 Prometheus 指標

GKE 叢集已設定 Google Cloud Managed Service for Prometheus，可收集 Prometheus 格式的指標。這項服務提供全代管的監控和快訊解決方案，可收集、儲存及分析叢集和應用程式的指標。

下圖說明 Prometheus 如何收集叢集的指標：

圖中的 GKE 私人叢集包含下列元件：

• Weaviate Pod，會在路徑 /metrics 和通訊埠 2112 上公開指標。
• 以 Prometheus 為基礎的收集器，可處理來自 Weaviate Pod 的指標。
• 將指標傳送至 Cloud Monitoring 的 PodMonitoring 資源。

如要匯出及查看指標，請按照下列步驟操作：

1. 建立 PodMonitoring 資源，以透過 labelSelector 抓取指標：

   kubectl apply -n weaviate -f manifests/03-prometheus-metrics/pod-monitoring.yaml
   

   pod-monitoring.yaml 資訊清單說明 PodMonitoring 資源：

   apiVersion: monitoring.googleapis.com/v1
   kind: PodMonitoring
   metadata:
     name: weaviate
   spec:
     selector:
       matchLabels:
         app: weaviate
     endpoints:
     - port: 2112
       interval: 30s
       path: /metrics

2. 如要匯入自訂 Cloud Monitoring 資訊主頁，並使用 dashboard.json 中定義的設定，請按照下列步驟操作：

   gcloud --project "${PROJECT_ID}" monitoring dashboards create --config-from-file monitoring/dashboard.json
   

3. 指令順利執行後，請前往 Cloud Monitoring 的「資訊主頁」：

   前往資訊主頁總覽

4. 從資訊主頁清單中開啟 Weaviate Overview 資訊主頁。系統可能需要一些時間才能收集及顯示指標。資訊主頁會顯示分片數量、向量和作業延遲時間