GSP1166

總覽

Vertex AI 的 Model Garden 集結了 Google 與合作夥伴提供的多種模型，歡迎搜尋、探索及使用。您可以透過 Google Cloud 控制台在 Vertex AI 存取 Model Garden。

本實驗室提供應用實例，助您認識 Model Garden，並使用 Vertex AI Studio 建立及測試提示。

目標

本實驗室的學習內容包括：

• 運用 Vertex AI 上的 Model Garden，依據應用實例找出合適模型。
• Model Garden 中的 Vertex AI 模型類型。

應用實例

您是房地產公司的市場分析師。貴公司想用大型語言模型 (LLM)，針對有興趣的物件傳回簡短說明與貸款資訊。

您需要建立提示，將公司房地產網站中極長的物件說明，摘錄成簡述內容。物件說明會以檔案形式儲存在 Google Cloud Storage bucket 中。

為節省時間，請先在 Model Garden 尋找可用的預建模型，盡快實作解決方案。

Vertex AI

Vertex AI 是 Google Cloud 的統合式人工智慧平台，可管理機器學習及生成式 AI 專案。

Model Garden

Vertex AI 上的 Model Garden 集結已預先訓練的機器學習模型與工具，可簡化機器學習模型的建構與部署程序。

Model Garden 提供多種類型與大小的模型，包含 Google 自家模型，例如可執行影像處理、對話、生成/補全程式碼的多模態模型，以及各式企業級開放原始碼模型。

Model Garden 也備有豐富的工具，協助您使用這些模型，包括：

• 模型資訊卡：提供各模型的詳細資訊，包括準確率、效能及訓練資料。
• 提示設計：您可以透過簡易 UI 使用模型，並運用自己資料進行調整。

Cloud Natural Language API 是 Model Garden 提供的模型之一，可讓您從文字中擷取實體、執行情緒和語法分析，並將文字分類。

Vertex AI Studio

Vertex AI Studio 是 Google Cloud 控制台的一項工具，可快速進行生成式 AI 模型的原型設計和測試。您可以測試範例提示、設計專屬提示並自訂基礎模型，處理應用程式需要的工作，包括：

• 使用提示範例測試模型。
• 設計及儲存自己的提示。
• 調整基礎模型。
• 在語音和文字間轉換。

設定和需求

點選「Start Lab」按鈕前的須知事項

請詳閱以下操作說明。研究室活動會計時，而且中途無法暫停。點選「Start Lab」 後就會開始計時，讓您瞭解有多少時間可以使用 Google Cloud 資源。

您將在真正的雲端環境中完成實作研究室活動，而不是在模擬或示範環境。為達此目的，我們會提供新的暫時憑證，讓您用來在研究室活動期間登入及存取 Google Cloud。

如要完成這個研究室活動，請先確認：

• 您可以使用標準的網際網路瀏覽器 (Chrome 瀏覽器為佳)。

• 是時候完成研究室活動了！別忘了，活動一開始將無法暫停。

如何開始研究室及登入 Google Cloud 控制台

1. 按一下「Start Lab」(開始研究室) 按鈕。如果研究室會產生費用，畫面中會出現選擇付款方式的彈出式視窗。左側的「Lab Details」窗格會顯示下列項目：

   • 「Open Google Cloud console」按鈕
   • 剩餘時間
   • 必須在這個研究室中使用的暫時憑證
   • 完成這個實驗室所需的其他資訊 (如有)

2. 點選「Open Google Cloud console」；如果使用 Chrome 瀏覽器，也能按一下滑鼠右鍵，然後選取「在無痕式視窗中開啟連結」。

   接著，實驗室會啟動相關資源並開啟另一個分頁，當中顯示「登入」頁面。

   提示：您可以在不同的視窗中並排開啟分頁。

   注意：如果頁面中顯示「選擇帳戶」對話方塊，請點選「使用其他帳戶」。

3. 如有必要，請將下方的 Username 貼到「登入」對話方塊。

   {{{user_0.username | "Username"}}}

   您也可以在「Lab Details」窗格找到 Username。

4. 點選「下一步」。

5. 複製下方的 Password，並貼到「歡迎使用」對話方塊。

   {{{user_0.password | "Password"}}}

   您也可以在「Lab Details」窗格找到 Password。

6. 點選「下一步」。

   重要事項：請務必使用實驗室提供的憑證，而非自己的 Google Cloud 帳戶憑證。 注意：如果使用自己的 Google Cloud 帳戶來進行這個實驗室，可能會產生額外費用。

7. 按過後續的所有頁面：

   • 接受條款及細則。
   • 由於這是臨時帳戶，請勿新增救援選項或雙重驗證機制。
   • 請勿申請免費試用。

Google Cloud 控制台稍後會在這個分頁開啟。

注意：如要查看列出 Google Cloud 產品和服務的選單，請點選左上角的「導覽選單」。

啟用 API

1. 在 Google Cloud 控制台中，依序點按「導覽選單」圖示 和「查看所有產品」，然後在「人工智慧」部分中選取「Vertex AI」。

2. 在 Vertex AI 資訊主頁中，點按「啟用所有建議的 API」。

任務 1：探索 Model Garden

前往 Model Garden 查看可用的 Vertex AI 及開放原始碼模型清單，包括基礎模型、可調整的模型，以及適用特定工作的模型。

• 在 Vertex AI 資訊主頁左側的「Tools」窗格中，點按「Model Garden」。

Model Garden 中的模型類別如下：

Vertex AI Model Garden 頁面會列出模型資訊卡，請瀏覽各類別的模型資訊卡。舉例來說，在「特定工作的解決方案」部分中，Sentiment analysis 模型會偵測輸入文字，並辨識內容的主要情緒觀點。這類模型很適合用來分析房地產公司收到的 Google 評論，瞭解文字內容的情緒並追蹤顧客的滿意度。

AI Studio 中的模型

1. 在 Vertex AI 資訊主頁左側的「Tools」窗格中，點按「Model Garden」，返回 Model Garden 主頁面。
2. 在「基礎模型」部分，按一下「全部顯示」，然後找到「PaLM 2 Text Bison」模型資訊卡，並點按「查看詳細資料」連結。

詳細資料頁面提供 PaLM 2 for Text 模型的總覽，包括模型說明、用途簡介，以及相關說明文件。

請注意，點按「在提示設計頁面中開啟」按鈕會開啟 AI Studio 的「語言」介面，您可以在其中使用及測試模型。AI Studio 是 Vertex AI 的功能，介面簡易直覺，方便您撰寫及調整提示來生成文字、對話及程式碼。

3. 點按「在提示設計頁面中開啟」，在 AI Studio 的「語言」介面中開啟 PaLM 2 for Text。

您可以盡情探索此模型，瞭解其如何回應提示。

測試已完成的工作

點選「Check my progress」，確認工作已完成。

任務 2：認識各種模型

Model Garden 可讓您在單一位置探索及使用模型，包括基礎模型與常見的開放原始碼模型。有了這些企業級模型，您可以根據自身需求、機器學習專業知識與預算，從 Model Garden 中選擇合適的模型。

您也能透過 Model Garden 採用各種工作流程，包括：

• 以 API 形式直接使用模型。
• 在 AI Studio 中調整模型。
• 透過 Vertex AI Workbench，在 Jupyter 筆記本中直接使用模型。
• 協助您部署模型訓練 pipeline。

在本實驗室中，您將探索上述的部分工作流程。

Jupyter 筆記本中的模型

1. 在左側的「Tools」窗格中，點按「Model Garden」，返回 Vertex AI Model Garden 頁面。
2. 在「基礎模型」部分，點按「全部顯示」，展開基礎模型的完整清單。

左側窗格有一些模型群組類型，您可以依據特定需求篩選模型：如果只想顯示與「影像」和「偵測」相關的模型，請按照以下步驟操作：

3. 點按「形式」下方的「影像」。
4. 點按「工作」下方的「偵測」。

可看到「基礎模型」部分目前只剩下幾個模型。Owl ViT 模型是零樣本的文字條件式物件偵測模型，可透過一或多項文字查詢來查詢圖像。

5. 點按 Owl-ViT 模型資訊卡上的「查看詳細資料」連結。

請注意，Vertex AI OWL-ViT 頁面有「開啟筆記本」連結，點按即可開啟 JupyterLab 筆記本。

6. 點按「開啟筆記本」，在新分頁開啟 Owl-ViT Colab。

請查看 Colab 筆記本 (不必執行)。

這個 Colab 筆記本會示範如何透過 Vertex AI 部署預先訓練的 OWL-ViT 模型，並用於線上預測。

如要進一步瞭解 Colab 筆記本，請造訪 Google Colaboratory 首頁。

7. 關閉「Colab 筆記本」分頁，返回「Cloud 控制台」分頁。

Vertex AI 上的 Model Garden 可讓您輕鬆微調模型。

屬於模型訓練 pipeline 的模型：

1. 在左側的「Tools」窗格中，點按「Model Garden」，返回 Vertex AI Model Garden 頁面。

2. 如果尚未清除「形式」和「工作」下的篩選器選項，請執行這項動作。

3. 在「搜尋模型」搜尋列輸入「bert」，然後從搜尋清單中選取「BERT」模型。

   注意：視瀏覽器寬度而定，您可能必須點按「全部顯示」或展開視窗，才能看到「BERT」模型資訊卡。

4. 視需要點按「BERT」模型的「查看詳細資料」連結。

5. 點按「微調」，開啟「bert-fine-tuning」Vertex AI pipeline。

請查看 pipeline (不必執行)。

點選「Check my progress」，確認工作已完成。

系統會顯示一個範本，您可使用範本來微調及部署此模型，並查看範本會執行的各 pipeline 元件。

在您的正式環境中，點按「建立管道」並填入或確認必要資訊，然後點按「提交」。此動作會部署 pipeline，您完全不必編寫程式碼。

恭喜！

您已使用 Model Garden 和 AI Studio 建立提示，並在各種生成式 AI 應用中加以測試。此外，您也實際操作了 AI Studio 的 UI。

後續步驟/瞭解詳情

• 《Get started with Vertex AI》(開始使用 Vertex AI) 影片
• 如想瞭解相關術語，請參閱機器學習詞彙表
• 詳閱 Vertex AI Studio 官方說明文件。
• 進一步瞭解 Vertex AI Model Garden：
  • Vertex AI Model Garden 網站
  • Model Garden 說明文件
  • AI 與機器學習網誌 (向下捲動即可找到 Model Garden 網誌文章)

Google Cloud 教育訓練與認證

協助您瞭解如何充分運用 Google Cloud 的技術。我們的課程會介紹專業技能和最佳做法，讓您可以快速掌握要領並持續進修。我們提供從基本到進階等級的訓練課程，並有隨選、線上和虛擬課程等選項，方便您抽空參加。認證可協助您驗證及證明自己在 Google Cloud 技術方面的技能和專業知識。

使用手冊上次更新日期：2024 年 3 月 5 日

實驗室上次測試日期：2024 年 3 月 5 日

Copyright 2024 Google LLC 保留所有權利。Google 和 Google 標誌是 Google LLC 的商標，其他公司和產品名稱則有可能是其關聯公司的商標。