GSP1209

Überblick

Gemini ist eine Reihe von auf generativer KI basierenden Modellen, die von Google DeepMind entwickelt wurden und auf multimodale Anwendungsfälle ausgelegt sind. Die Gemini API bietet Zugriff auf die Modelle Gemini Pro Vision und Gemini Pro. In diesem Lab lernen Sie, wie Sie mithilfe der Vertex AI Gemini API und des Vertex AI SDK for Python mit den Modellen Gemini 1.0 Pro (gemini-1.0-pro) und Gemini 1.0 Pro Vision (gemini-1.0-pro-vision) interagieren.

Vertex AI Gemini API

Die Vertex AI Gemini API bietet eine einheitliche Benutzeroberfläche für die Interaktion mit Gemini-Modellen. Derzeit gibt es zwei Modelle:

1. Gemini 1.0 Pro (gemini-1.0-pro): Entwickelt für Aufgaben in natürlicher Sprache, wechselseitigen Text‑ und Codechat sowie Codegenerierung.
2. Gemini 1.0 Pro Vision (gemini-1.0-pro-vision): Unterstützt multimodale Prompts. Sie können Texte, Bilder und Videos in Ihre Prompts einfügen und erhalten Text‑ oder Codeantworten.

Es gibt verschiedene Möglichkeiten, mit der Gemini API zu interagieren:

• Vertex AI Studio für schnelles Testen und Erstellen von Befehlen
• cURL-Befehle
• Vertex AI SDK

In diesem Lab wird erklärt, wie Sie die Vertex AI Gemini API mit dem Vertex AI SDK for Python aufrufen.

Weitere Informationen finden Sie in der Dokumentation unter Übersicht über die Unterstützung generativer KI für Vertex AI.

Voraussetzungen

Für dieses Lab sollten Sie folgende Konzepte kennen:

• Grundlegende Kenntnisse der Programmierung mit Python
• Allgemeine Kenntnisse über die Funktionsweise von APIs
• Ausführen von Python-Code in einem Jupyter-Notebook in Vertex AI Workbench

Ziele

Aufgaben in diesem Lab:

• Vertex AI SDK for Python installieren
• Mit dem Modell Gemini 1.0 Pro (gemini-1.0-pro) Text generieren
• Mit dem multimodalen Modell Gemini 1.0 Pro Vision (gemini-1.0-pro-vision) Text aus einer Kombination von Texten, Bildern und Videos generieren

Einrichtung und Anforderungen

Vor dem Klick auf „Start Lab“ (Lab starten)

Lesen Sie diese Anleitung. Labs sind zeitlich begrenzt und können nicht pausiert werden. Der Timer beginnt zu laufen, wenn Sie auf Lab starten klicken, und zeigt Ihnen, wie lange die Ressourcen für das Lab verfügbar sind.

In diesem praxisorientierten Lab können Sie die Lab-Aktivitäten in einer echten Cloud-Umgebung selbst durchführen – nicht in einer Simulations- oder Demo-Umgebung. Dazu erhalten Sie neue, temporäre Anmeldedaten, mit denen Sie für die Dauer des Labs auf Google Cloud zugreifen können.

Für dieses Lab benötigen Sie Folgendes:

• Einen Standardbrowser (empfohlen wird Chrome)

• Zeit für die Durchführung des Labs – denken Sie daran, dass Sie ein begonnenes Lab nicht unterbrechen können.

Lab starten und bei der Google Cloud Console anmelden

1. Klicken Sie auf Lab starten. Wenn Sie für das Lab bezahlen müssen, wird ein Pop-up-Fenster geöffnet, in dem Sie Ihre Zahlungsmethode auswählen können. Auf der linken Seite befindet sich der Bereich Details zum Lab mit diesen Informationen:

   • Schaltfläche Google Cloud Console öffnen
   • Restzeit
   • Temporäre Anmeldedaten für das Lab
   • Ggf. weitere Informationen für dieses Lab

2. Klicken Sie auf Google Cloud Console öffnen (oder klicken Sie mit der rechten Maustaste und wählen Sie Link in Inkognitofenster öffnen aus, wenn Sie Chrome verwenden).

   Im Lab werden Ressourcen aktiviert. Anschließend wird ein weiterer Tab mit der Seite Anmelden geöffnet.

   Tipp: Ordnen Sie die Tabs nebeneinander in separaten Fenstern an.

   Hinweis: Wird das Dialogfeld Konto auswählen angezeigt, klicken Sie auf Anderes Konto verwenden.

3. Kopieren Sie bei Bedarf den folgenden Nutzernamen und fügen Sie ihn in das Dialogfeld Anmelden ein.

   {{{user_0.username | "Username"}}}

   Sie finden den Nutzernamen auch im Bereich Details zum Lab.

4. Klicken Sie auf Weiter.

5. Kopieren Sie das folgende Passwort und fügen Sie es in das Dialogfeld Willkommen ein.

   {{{user_0.password | "Password"}}}

   Sie finden das Passwort auch im Bereich Details zum Lab.

6. Klicken Sie auf Weiter.

   Wichtig: Sie müssen die für das Lab bereitgestellten Anmeldedaten verwenden. Nutzen Sie nicht die Anmeldedaten Ihres Google Cloud-Kontos. Hinweis: Wenn Sie Ihr eigenes Google Cloud-Konto für dieses Lab nutzen, können zusätzliche Kosten anfallen.

7. Klicken Sie sich durch die nachfolgenden Seiten:

   • Akzeptieren Sie die Nutzungsbedingungen.
   • Fügen Sie keine Wiederherstellungsoptionen oder Zwei-Faktor-Authentifizierung hinzu (da dies nur ein temporäres Konto ist).
   • Melden Sie sich nicht für kostenlose Testversionen an.

Nach wenigen Augenblicken wird die Google Cloud Console in diesem Tab geöffnet.

Hinweis: Wenn Sie sich eine Liste der Google Cloud-Produkte und ‑Dienste ansehen möchten, klicken Sie oben links auf das Navigationsmenü.

Aufgabe 1: Notebook in Vertex AI Workbench öffnen

1. Klicken Sie in der Google Cloud Console im Navigationsmenü auf Vertex AI > Workbench.

2. Suchen Sie die Instanz und klicken Sie auf JupyterLab öffnen.

Die JupyterLab-Oberfläche für Ihre Workbench-Instanz wird in einem neuen Browsertab geöffnet.

Aufgabe 2: Notebook einrichten

1. Klicken Sie auf die -Datei.

2. Gehen Sie die Abschnitte Erste Schritte und Bibliotheken importieren des Notebooks durch.

   • Verwenden Sie als Projekt-ID den Wert und als Standort die Option .

In den folgenden Abschnitten gehen Sie die Notebookzellen durch, um zu erfahren, wie Sie die Vertex AI Gemini API mit dem Vertex AI SDK for Python verwenden können.

Aufgabe 3: Gemini 1.0 Pro-Modell verwenden

Das Modell Gemini 1.0 Pro (gemini-1.0-pro) wurde für Aufgaben in natürlicher Sprache, wechselseitigen Text‑ und Codechat sowie Codegenerierung entwickelt. In dieser Aufgabe gehen Sie die Notebookzellen durch, um zu sehen, wie Sie mit dem Gemini 1.0 Pro-Modell Text aus Text-Prompts generieren können.

Text aus Text-Prompts generieren

Senden Sie einen Text-Prompt an das Modell. Das Modell Gemini 1.0 Pro (gemini-1.0-pro) bietet einen Streaming-Antwortmechanismus. Dadurch müssen Sie nicht auf die vollständige Antwort warten, sondern können Fragmente verarbeiten, sobald diese zugänglich sind.

• Gehen Sie den Abschnitt Text aus Text-Prompts generieren im Notebook durch.

Klicken Sie auf Fortschritt prüfen.

Aufgabe 4: Gemini 1.0 Pro Vision-Modell verwenden

Gemini 1.0 Pro Vision (gemini-1.0-pro-vision) ist ein multimodales Modell, das multimodale Prompts unterstützt. Sie können Texte, Bilder und Videos in Ihre Prompts einfügen und erhalten Text‑ oder Codeantworten. In dieser Aufgabe gehen Sie die Notebookzellen durch, um zu sehen, wie Sie mit dem Gemini 1.0 Pro Vision-Modell Text aus Text‑ und Bild-Prompts sowie Text aus einer Videodatei generieren können.

Text aus lokalem Bild und Text generieren

• Gehen Sie den Abschnitt Text aus lokalem Bild und Text generieren im Notebook durch.

Klicken Sie auf Fortschritt prüfen.

Text aus Text‑ und Bild-Prompts generieren

• Gehen Sie den Abschnitt Text aus Text und Bild(ern) generieren im Notebook durch.

  Text aus Text und Bild(ern) generieren.

Mehrere Bilder und Text-Prompts für Few-Shot-Prompts kombinieren

• Gehen Sie den Abschnitt Mehrere Bilder und Text-Prompts für Few-Shot-Prompts kombinieren im Notebook durch.

  Few-Shot-Prompts ausführen.

Text aus einer Videodatei generieren

• Gehen Sie den Abschnitt Text aus einer Videodatei generieren im Notebook durch.

  Text aus einer Videodatei generieren.

Das wars! Sie haben das Lab erfolgreich abgeschlossen.

In diesem Lab haben Sie sich den Einsatz der Vertex AI Gemini API mit dem Vertex AI SDK for Python zur Interaktion mit den beiden Modellen Gemini 1.0 Pro (gemini-1.0-pro) und Gemini 1.0 Pro Vision (gemini-1.0-pro-vision) genauer angesehen. Die Übungen haben Ihnen praktische Einblicke in die Funktionen der Vertex AI Gemini API und ihre nahtlose Einbindung in das Python SDK geliefert.

Weitere Informationen

• Dokumentation: Generative KI in Vertex AI
• YouTube-Kanal: Google Cloud Tech
• GitHub-Repository: Generative KI von Google Cloud
• Gemini-Beispielnotebooks

Google Cloud-Schulungen und -Zertifizierungen

In unseren Schulungen erfahren Sie alles zum optimalen Einsatz unserer Google Cloud-Technologien und können sich entsprechend zertifizieren lassen. Unsere Kurse vermitteln technische Fähigkeiten und Best Practices, damit Sie möglichst schnell mit Google Cloud loslegen und Ihr Wissen fortlaufend erweitern können. Wir bieten On-Demand-, Präsenz- und virtuelle Schulungen für Anfänger wie Fortgeschrittene an, die Sie individuell in Ihrem eigenen Zeitplan absolvieren können. Mit unseren Zertifizierungen weisen Sie nach, dass Sie Experte im Bereich Google Cloud-Technologien sind.

Anleitung zuletzt am 31. Mai 2024 aktualisiert

Lab zuletzt am 31. Mai 2024 getestet

© 2024 Google LLC. Alle Rechte vorbehalten. Google und das Google-Logo sind Marken von Google LLC. Alle anderen Unternehmens- und Produktnamen können Marken der jeweils mit ihnen verbundenen Unternehmen sein.