GSP1230

總覽

Gemini 是由 Google DeepMind 開發的一系列生成式 AI 模型，專為多模態用途而設計。您可以透過 Gemini API 使用 Gemini Pro Vision 和 Gemini Pro 模型。

對零售商來說，推薦系統可提升消費者體驗，進而提高銷售量。本研究室將說明如何運用 Gemini Pro Vision 模型，快速打造多模態推薦系統。Gemini Pro Vision 模型可使用多模態模型，一併提供推薦和說明。

在本研究室中，您會從場景 (例如客廳) 著手，使用 Gemini Pro Vision 模型解讀圖片。您也會瞭解如何使用 Gemini Pro Vision 模型，從輸入的家具清單中推薦商品 (例如椅子)。

Vertex AI Gemini API

Vertex AI Gemini API 提供統一的 Gemini 模型互動介面。目前 Gemini API 有兩種可用的模型：

1. Gemini Pro 模型 (gemini-pro)：可處理自然語言工作、進行多輪文字和程式碼即時通訊，以及生成程式碼。
2. Gemini Pro Vision 模型 (gemini-pro-vision)：支援多模態提示。您可以在提示要求中納入文字、圖片和影片，並取得文字或程式碼形式的回覆。

與 Gemini API 互動的方法如下：

• 使用 Vertex AI Studio 快速測試並生成指令
• 使用 cURL 指令
• 使用 Vertex AI SDK

本研究室主要介紹 Gemini Pro Vision 模型的多模態功能。

詳情請參閱 Vertex AI 生成式 AI 說明文件。

目標

本研究室的學習內容包括：

• 使用 Gemini Pro Vision 模型 (gemini-pro-vision) 解讀圖片
• 向 Gemini Pro Vision 模型輸入提示時，將多模態納入考量
• 使用 Gemini Pro Vision 模型建立零售推薦應用程式

設定和需求

點選「Start Lab」按鈕前的須知事項

請詳閱以下操作說明。研究室活動會計時，而且中途無法暫停。點選「Start Lab」 後就會開始計時，讓您瞭解有多少時間可以使用 Google Cloud 資源。

您將在真正的雲端環境中完成實作研究室活動，而不是在模擬或示範環境。為達此目的，我們會提供新的暫時憑證，讓您用來在研究室活動期間登入及存取 Google Cloud。

如要完成這個研究室活動，請先確認：

• 您可以使用標準的網際網路瀏覽器 (Chrome 瀏覽器為佳)。

注意：請使用無痕模式或私密瀏覽視窗執行此研究室。這可以防止個人帳戶和學生帳戶之間的衝突，避免個人帳戶產生額外費用。

• 是時候完成研究室活動了！別忘了，活動一開始將無法暫停。

注意：如果您擁有個人 Google Cloud 帳戶或專案，請勿用於本研究室，以免產生額外費用。

如何開始研究室及登入 Google Cloud 控制台

1. 按一下「Start Lab」(開始研究室) 按鈕。如果研究室會產生費用，畫面中會出現選擇付款方式的彈出式視窗。左側的「Lab Details」窗格會顯示下列項目：

   • 「Open Google Cloud console」按鈕
   • 剩餘時間
   • 必須在這個研究室中使用的暫時憑證
   • 完成這個實驗室所需的其他資訊 (如有)

2. 點選「Open Google Cloud console」；如果使用 Chrome 瀏覽器，也能按一下滑鼠右鍵，然後選取「在無痕式視窗中開啟連結」。

   接著，實驗室會啟動相關資源並開啟另一個分頁，當中顯示「登入」頁面。

   提示：您可以在不同的視窗中並排開啟分頁。

   注意：如果頁面中顯示「選擇帳戶」對話方塊，請點選「使用其他帳戶」。

3. 如有必要，請將下方的 Username 貼到「登入」對話方塊。

   {{{user_0.username | "Username"}}}

   您也可以在「Lab Details」窗格找到 Username。

4. 點選「下一步」。

5. 複製下方的 Password，並貼到「歡迎使用」對話方塊。

   {{{user_0.password | "Password"}}}

   您也可以在「Lab Details」窗格找到 Password。

6. 點選「下一步」。

   重要事項：請務必使用實驗室提供的憑證，而非自己的 Google Cloud 帳戶憑證。 注意：如果使用自己的 Google Cloud 帳戶來進行這個實驗室，可能會產生額外費用。

7. 按過後續的所有頁面：

   • 接受條款及細則。
   • 由於這是臨時帳戶，請勿新增救援選項或雙重驗證機制。
   • 請勿申請免費試用。

Google Cloud 控制台稍後會在這個分頁開啟。

注意：如要查看列出 Google Cloud 產品和服務的選單，請點選左上角的「導覽選單」。

工作 1：開啟 Vertex AI Workbench 中的筆記本

1. 前往 Google Cloud 控制台，依序點選「導覽選單」>「Vertex AI」>「Workbench」。

2. 前往「使用者自行管理的 Notebooks」頁面中，找出 generative-ai-jupyterlab 筆記本，然後點選「Open JupyterLab」按鈕。

JupyterLab 介面會在新的瀏覽器分頁中開啟。

工作 2：開啟 generative-ai 資料夾

1. 前往筆記本左側的 generative-ai 資料夾。

2. 前往 /gemini/use-cases/retail 資料夾。

3. 開啟 multimodal_retail_recommendations.ipynb 檔案。

4. 執行筆記本的「Getting Started」和「Import libraries」部分。

   • 在「Project ID」部分使用「」，並在「Location」部分使用「」。

注意：您可以略過任何標有「Colab only」的筆記本儲存格。

點選「Check my progress」，確認目標已達成。

安裝 Vertex AI SDK for Python 並匯入程式庫。

在下列各節中，您將執行各個筆記本儲存格，瞭解如何使用 Gemini Pro Vision 模型的多模態功能。

工作 3：使用 Gemini Pro Vision 模型

Gemini Pro Vision 模型 (gemini-pro-vision) 是多模態模型，支援在文字或對話提示中加入圖片和影片，並取得文字回覆。

1. 在這項工作中，執行各個筆記本儲存格，瞭解如何使用 Gemini Pro Vision 模型，在單一提示中提供房間圖片，並以文字詳細描述。

點選「Check my progress」，確認目標已達成。

使用 Gemini Pro Vision 模型來描述房間。

工作 4：根據內建知識庫生成開放式推薦內容

您可以使用相同的圖片搭配房間描述，請模型推薦適合房間的家具。請注意，在本例中，模型可以推薦任何家具，也能僅依據內建的知識庫來推薦。

1. 執行各個筆記本儲存格，瞭解如何使用相同圖片搭配房間描述，請 Gemini Pro Vision 模型推薦適合房間的家具。

點選「Check my progress」，確認目標已達成。

使用 Gemini Pro Vision 模型來推薦家具。

工作 5：根據現有圖片生成推薦內容

除了開放式推薦以外，您也能提供項目清單，讓模型從中選擇推薦內容。在本節中，您將下載一些椅子圖片並設為 Gemini 的推薦選項。如果零售商想根據消費者的房間類型，推薦門市現貨商品，這種方法特別實用。

1. 在這項工作中，請執行各個筆記本儲存格，瞭解如何使用 Gemini Pro Vision 模型從項目清單中推薦家具。

點選「Check my progress」，確認目標已達成。

使用 Gemini Pro Vision 模型，從選項中推薦內容。

恭喜！

恭喜！在本研究室中，您已成功瞭解如何使用 Gemini 建構多模態家具推薦系統。您學到如何運用 Gemini Pro Vision 模型解讀圖片，以及在向 Gemini Pro Vision 模型輸入提示時，將多模態納入考量。本研究室說明如何使用 Gemini 建構多模態家具推薦系統，下列情境中也能運用類似方法：

• 根據場合或場景圖片推薦穿搭
• 根據房間或擺設推薦壁紙

後續步驟/瞭解詳情

• 查看 Generative AI on Vertex AI 說明文件
• 前往 Google Cloud Tech 的 YouTube 頻道，進一步瞭解生成式 AI
• Google Cloud 生成式 AI 官方存放區
• Gemini 筆記本示例

Google Cloud 教育訓練與認證

協助您瞭解如何充分運用 Google Cloud 的技術。我們的課程會介紹專業技能和最佳做法，讓您可以快速掌握要領並持續進修。我們提供從基本到進階等級的訓練課程，並有隨選、線上和虛擬課程等選項，方便您抽空參加。認證可協助您驗證及證明自己在 Google Cloud 技術方面的技能和專業知識。

使用手冊上次更新日期：2024 年 4 月 3 日

研究室上次測試日期：2024 年 4 月 3 日

Copyright 2024 Google LLC 保留所有權利。Google 和 Google 標誌是 Google LLC 的商標，其他公司和產品名稱則有可能是其關聯公司的商標。