GSP1229

Überblick

Gemini ist eine Reihe von auf generativer KI basierenden Modellen, die von Google DeepMind entwickelt wurden und auf multimodale Anwendungsfälle ausgelegt sind. Die Gemini API bietet Zugriff auf die Modelle Gemini Pro Vision und Gemini Pro. In diesem Lab erfahren Sie, wie Sie die Vertex AI Gemini API in Anwendungen einbinden und die entwickelte Beispielanwendung erstellen und auf Google Cloud Run bereitstellen.

Vertex AI Gemini API

Die Vertex AI Gemini API bietet eine einheitliche Benutzeroberfläche für die Interaktion mit Gemini-Modellen. Derzeit gibt es zwei Modelle:

1. Gemini Pro (gemini-pro): Entwickelt für Aufgaben in natürlicher Sprache, wechselseitigen Text‑ und Codechat sowie Codegenerierung.
2. Gemini Pro Vision (gemini-pro-vision): Unterstützt multimodale Prompts. Sie können Texte, Bilder und Videos in Ihre Prompts einfügen und erhalten Text‑ oder Codeantworten.

Es gibt verschiedene Möglichkeiten, mit der Gemini API zu interagieren:

• Vertex AI Studio für schnelles Testen und Erstellen von Befehlen
• cURL-Befehle
• Vertex AI SDK

In diesem Lab wird erklärt, wie Sie das Gemini Pro-Modell in eine Streamlit-Anwendung einbinden und die Anwendung auf Google Cloud Run bereitstellen.

Weitere Informationen finden Sie in der Dokumentation unter Übersicht über die Unterstützung generativer KI für Vertex AI.

Lernziele

Aufgaben in diesem Lab:

• Die Vertex AI Gemini API in Anwendungen einbinden
• Die entwickelte Beispielanwendung erstellen und auf Google Cloud Run bereitstellen
• Eine Cloud Run-Anwendung mit dem Streamlit-Framework erstellen

Einrichtung und Anforderungen

Vor dem Klick auf „Start Lab“ (Lab starten)

Lesen Sie diese Anleitung. Labs sind zeitlich begrenzt und können nicht pausiert werden. Der Timer beginnt zu laufen, wenn Sie auf Lab starten klicken, und zeigt Ihnen, wie lange die Ressourcen für das Lab verfügbar sind.

In diesem praxisorientierten Lab können Sie die Lab-Aktivitäten in einer echten Cloud-Umgebung selbst durchführen – nicht in einer Simulations- oder Demo-Umgebung. Dazu erhalten Sie neue, temporäre Anmeldedaten, mit denen Sie für die Dauer des Labs auf Google Cloud zugreifen können.

Für dieses Lab benötigen Sie Folgendes:

• Einen Standardbrowser (empfohlen wird Chrome)

Hinweis: Nutzen Sie den privaten oder Inkognitomodus, um dieses Lab durchzuführen. So wird verhindert, dass es zu Konflikten zwischen Ihrem persönlichen Konto und dem Teilnehmerkonto kommt und zusätzliche Gebühren für Ihr persönliches Konto erhoben werden.

• Zeit für die Durchführung des Labs – denken Sie daran, dass Sie ein begonnenes Lab nicht unterbrechen können.

Hinweis: Wenn Sie über ein persönliches Google Cloud-Konto oder -Projekt verfügen, verwenden Sie es nicht für dieses Lab. So werden zusätzliche Kosten für Ihr Konto vermieden.

Lab starten und bei der Google Cloud Console anmelden

1. Klicken Sie auf Lab starten. Wenn Sie für das Lab bezahlen müssen, wird ein Pop-up-Fenster geöffnet, in dem Sie Ihre Zahlungsmethode auswählen können. Auf der linken Seite befindet sich der Bereich Details zum Lab mit diesen Informationen:

   • Schaltfläche Google Cloud Console öffnen
   • Restzeit
   • Temporäre Anmeldedaten für das Lab
   • Ggf. weitere Informationen für dieses Lab

2. Klicken Sie auf Google Cloud Console öffnen (oder klicken Sie mit der rechten Maustaste und wählen Sie Link in Inkognitofenster öffnen aus, wenn Sie Chrome verwenden).

   Im Lab werden Ressourcen aktiviert. Anschließend wird ein weiterer Tab mit der Seite Anmelden geöffnet.

   Tipp: Ordnen Sie die Tabs nebeneinander in separaten Fenstern an.

   Hinweis: Wird das Dialogfeld Konto auswählen angezeigt, klicken Sie auf Anderes Konto verwenden.

3. Kopieren Sie bei Bedarf den folgenden Nutzernamen und fügen Sie ihn in das Dialogfeld Anmelden ein.

   {{{user_0.username | "Username"}}}

   Sie finden den Nutzernamen auch im Bereich Details zum Lab.

4. Klicken Sie auf Weiter.

5. Kopieren Sie das folgende Passwort und fügen Sie es in das Dialogfeld Willkommen ein.

   {{{user_0.password | "Password"}}}

   Sie finden das Passwort auch im Bereich Details zum Lab.

6. Klicken Sie auf Weiter.

   Wichtig: Sie müssen die für das Lab bereitgestellten Anmeldedaten verwenden. Nutzen Sie nicht die Anmeldedaten Ihres Google Cloud-Kontos. Hinweis: Wenn Sie Ihr eigenes Google Cloud-Konto für dieses Lab nutzen, können zusätzliche Kosten anfallen.

7. Klicken Sie sich durch die nachfolgenden Seiten:

   • Akzeptieren Sie die Nutzungsbedingungen.
   • Fügen Sie keine Wiederherstellungsoptionen oder Zwei-Faktor-Authentifizierung hinzu (da dies nur ein temporäres Konto ist).
   • Melden Sie sich nicht für kostenlose Testversionen an.

Nach wenigen Augenblicken wird die Google Cloud Console in diesem Tab geöffnet.

Hinweis: Wenn Sie sich eine Liste der Google Cloud-Produkte und ‑Dienste ansehen möchten, klicken Sie oben links auf das Navigationsmenü.

Aufgabe 1: Anwendung lokal ausführen

In diesem Abschnitt führen Sie die Streamlit-Anwendung lokal in Cloud Shell aus.

Repository klonen

1. Öffnen Sie in der Cloud Console oben rechts über das Cloud Shell-Symbol ein neues Cloud Shell-Terminal.

2. Führen Sie die folgenden Befehle aus, um das Repository zu klonen und um in das Verzeichnis gemini-streamlit-cloudrun in Cloud Shell zu wechseln.

git clone https://github.com/GoogleCloudPlatform/generative-ai.git cd generative-ai/gemini/sample-apps/gemini-streamlit-cloudrun

Für die Ausführung der Streamlit-Anwendung müssen Sie einige weitere Schritte ausführen.

Anwendung ausführen

1. Richten Sie die virtuelle Python-Umgebung ein und installieren Sie die Abhängigkeiten:

python3 -m venv gemini-streamlit source gemini-streamlit/bin/activate pip install -r requirements.txt

2. Ihre Anwendung benötigt Zugriff auf zwei Umgebungsvariablen:

• GCP_PROJECT: Dies ist die ID des Google Cloud-Projekts.
• GCP_REGION: Dies ist der Name der Region, in der Sie die Cloud Run-Anwendung bereitstellen, z. B. us-central1.

Diese Variablen sind erforderlich, da die Initialisierung der Vertex AI die ID des Google Cloud-Projekts und die Region benötigt. Dies ist die entsprechende Codezeile aus der app.py-Funktion: vertexai.init(project=PROJECT_ID, location=LOCATION)

Führen Sie in Cloud Shell die folgenden Befehle aus:

GCP_PROJECT='{{{ project_0.project_id | Project ID}}}' GCP_REGION='{{{ project_0.default_region | Region }}}'

3. Führen Sie zum lokalen Starten der Anwendung folgenden Befehl aus:

streamlit run app.py \ --browser.serverAddress=localhost \ --server.enableCORS=false \ --server.enableXsrfProtection=false \ --server.port 8080

Ausgabe:

Die Nutzungsstatistiken werden erfasst. Zum Deaktivieren legen Sie „browser.gatherUsageStats“ auf „false“ fest. Sie können jetzt die Streamlit-App im Browser ansehen. URL: http://localhost:8080

4. Die Anwendung wird gestartet und Sie erhalten eine URL für die Anwendung. Klicken Sie auf den Link, um die Anwendung im Browser anzusehen, oder starten Sie die Vorschauseite mit der Webvorschau-Funktion in Cloud Shell.

5. Passen Sie die Parameter für die Story-Generierung an und klicken Sie auf Generate my story.

6. Wechseln Sie zu Cloud Shell zurück und autorisieren Sie die Anwendung für den Zugriff auf die Gemini API. Nachdem Sie die Anwendung autorisiert haben, können Sie zur Anwendung zurückwechseln und die Antwort einsehen.

Hinweis: Die Anwendung ruft die Vertex AI Gemini API auf und zeigt die Antworten an. Damit dies funktioniert, müssen Sie nach Auswahl von Generate my story zu Cloud Shell zurückwechseln und die Anwendung für den Zugriff auf die Gemini API autorisieren.

6. Nachdem Sie die Anwendung getestet haben, können Sie sie mit Strg + C in Cloud Shell anhalten.

Aufgabe 2: Anwendung erstellen und auf Cloud Run bereitstellen

In diesem Abschnitt stellen Sie die Streamlit-Anwendung auf Cloud Run bereit.

Sie erstellen jetzt das Docker-Image für die Anwendung und übertragen es per Push an Artifact Registry. Hierzu müssen Sie eine Umgebungsvariable festlegen, die auf den Artifact Registry-Namen verweist. Mit den folgenden Befehlen wird dieses Artifact Registry-Repository erstellt.

1. Führen Sie in Cloud Shell den folgenden Befehl aus:

AR_REPO='gemini-repo' SERVICE_NAME='gemini-streamlit-app' gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"

Ausgabe:

DONE -------------------------------------------------------------------------------- ID CREATE_TIME DURATION SOURCE IMAGES STATUS a601ffd1-c282-43d2-942c-53cc13f43bf2 2023-12-18T11:37:30+00:00 2M29S gs://qwiklabs-gcp-00-eb090e9513e8_cloudbuild/source/1702899440.87287-549e1a0cc5644b3c9535ff57f4a63d02.tgz us-central1-docker.pkg.dev/qwiklabs-gcp-00-eb090e9513e8/gemini-repo/gemini-streamlit-app (+1 more) SUCCESS

2. Der letzte Schritt besteht darin, den Dienst auf Cloud Run mit dem Image bereitzustellen, das Sie im vorherigen Schritt erstellt und per Push an Artefact Registry übertragen haben.

gcloud run deploy "$SERVICE_NAME" \ --port=8080 \ --image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \ --allow-unauthenticated \ --region=$GCP_REGION \ --platform=managed \ --project=$GCP_PROJECT \ --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION

Wenn die Bereitstellung erfolgreich war, erhalten Sie eine URL für den Cloud Run-Dienst. Sie können diese URL im Browser aufrufen und die Cloud Run-Anwendung ansehen, die Sie gerade bereitgestellt haben.

Ausgabe:

⠼ Deploying new service... Done. ✓ Deploying new service... Done. Done. Service [gemini-streamlit-app] revision [gemini-streamlit-app-00001-srg] has been deployed and is serving 100 percent of traffic. Service URL: https://gemini-streamlit-app-hc2gb6hsia-uc.a.run.app

Wählen Sie die Funktionen aus, die Sie ansehen möchten. Die Anwendung gibt dies an die Vertex AI Gemini API weiter und zeigt die Antworten an.

Klicken Sie auf Fortschritt prüfen. Anwendung erstellen und auf Cloud Run bereitstellen

Das wars! Sie haben das Lab erfolgreich abgeschlossen.

Glückwunsch! In diesem Lab haben Sie gelernt, wie Sie die Vertex AI Gemini API in Anwendungen einbauen und die entwickelte Beispielanwendung erstellen und in Google Cloud Run bereitstellen.

Weitere Informationen

• Dokumentation: Generative KI in Vertex AI
• YouTube-Kanal: Google Cloud Tech
• GitHub-Repository: Generative KI von Google Cloud
• Gemini-Beispielnotebooks

Google Cloud-Schulungen und -Zertifizierungen

In unseren Schulungen erfahren Sie alles zum optimalen Einsatz unserer Google Cloud-Technologien und können sich entsprechend zertifizieren lassen. Unsere Kurse vermitteln technische Fähigkeiten und Best Practices, damit Sie möglichst schnell mit Google Cloud loslegen und Ihr Wissen fortlaufend erweitern können. Wir bieten On-Demand-, Präsenz- und virtuelle Schulungen für Anfänger wie Fortgeschrittene an, die Sie individuell in Ihrem eigenen Zeitplan absolvieren können. Mit unseren Zertifizierungen weisen Sie nach, dass Sie Experte im Bereich Google Cloud-Technologien sind.

Anleitung zuletzt am 7. März 2024 aktualisiert

Lab zuletzt am 18. März 2024 getestet

© 2024 Google LLC. Alle Rechte vorbehalten. Google und das Google-Logo sind Marken von Google LLC. Alle anderen Unternehmens- und Produktnamen können Marken der jeweils mit ihnen verbundenen Unternehmen sein.