GSP1230

Présentation

Gemini est une famille de modèles d'IA générative développés par Google DeepMind, et conçus pour les cas d'utilisation multimodaux. L'API Gemini vous donne accès aux modèles Gemini Pro Vision et Gemini Pro.

Pour les entreprises du secteur du commerce, les systèmes de recommandations améliorent l'expérience client et peuvent ainsi augmenter les ventes. Dans cet atelier, vous allez apprendre à utiliser le modèle Gemini Pro Vision pour créer rapidement un système de recommandations multimodales. Le modèle Gemini Pro Vision peut générer à la fois des recommandations et des explications à l'aide d'un modèle multimodal.

Dans cet atelier, vous allez partir d'une scène (par exemple, un salon) pour effectuer une analyse visuelle à l'aide du modèle Gemini Pro Vision. Vous verrez également comment utiliser le modèle Gemini Pro Vision pour recommander un article (par exemple, une chaise) à partir d'une liste de meubles en tant qu'entrée.

API Gemini Vertex AI

L'API Gemini Vertex AI fournit une interface unifiée pour interagir avec les modèles Gemini. Deux modèles sont actuellement disponibles dans l'API Gemini :

1. Le modèle Gemini Pro (gemini-pro), conçu pour gérer les tâches en langage naturel, le chat textuel et de code multitour ainsi que la génération de code.
2. Le modèle Gemini Pro Vision (gemini-pro-vision), compatible avec les requêtes multimodales, qui permet d'inclure du texte, des images et des vidéos dans vos requêtes, et d'obtenir des réponses textuelles ou de code.

Vous pouvez interagir avec l'API Gemini de différentes façons :

• Utiliser Vertex AI Studio pour effectuer des tests et générer des commandes rapidement
• Utiliser des commandes cURL
• Utiliser le SDK Vertex AI

Cet atelier se concentre sur les fonctionnalités multimodales du modèle Gemini Pro Vision.

Pour en savoir plus, consultez la documentation sur l'IA générative sur Vertex AI.

Objectifs

Dans cet atelier, vous allez apprendre à :

• utiliser le modèle Gemini Pro Vision (gemini-pro-vision) pour effectuer une analyse visuelle ;
• tenir compte de la multimodalité lors de création de requêtes pour le modèle Gemini Pro Vision ;
• créer une application de recommandation pour le secteur du commerce à l'aide du modèle Gemini Pro Vision.

Préparation

Avant de cliquer sur le bouton "Démarrer l'atelier"

Lisez ces instructions. Les ateliers sont minutés, et vous ne pouvez pas les mettre en pause. Le minuteur, qui démarre lorsque vous cliquez sur Démarrer l'atelier, indique combien de temps les ressources Google Cloud resteront accessibles.

Cet atelier pratique vous permet de suivre vous-même les activités dans un véritable environnement cloud, et non dans un environnement de simulation ou de démonstration. Nous vous fournissons des identifiants temporaires pour vous connecter à Google Cloud le temps de l'atelier.

Pour réaliser cet atelier :

• vous devez avoir accès à un navigateur Internet standard (nous vous recommandons d'utiliser Chrome) ;

Remarque : Ouvrez une fenêtre de navigateur en mode incognito/navigation privée pour effectuer cet atelier. Vous éviterez ainsi les conflits entre votre compte personnel et le temporaire étudiant, qui pourraient entraîner des frais supplémentaires facturés sur votre compte personnel.

• vous disposez d'un temps limité ; une fois l'atelier commencé, vous ne pouvez pas le mettre en pause.

Remarque : Si vous possédez déjà votre propre compte ou projet Google Cloud, veillez à ne pas l'utiliser pour réaliser cet atelier afin d'éviter que des frais supplémentaires ne vous soient facturés.

Démarrer l'atelier et se connecter à la console Google Cloud

1. Cliquez sur le bouton Démarrer l'atelier. Si l'atelier est payant, un pop-up s'affiche pour vous permettre de sélectionner un mode de paiement. Sur la gauche, vous trouverez le panneau Détails concernant l'atelier, qui contient les éléments suivants :

   • Le bouton Ouvrir la console Google Cloud
   • Le temps restant
   • Les identifiants temporaires que vous devez utiliser pour cet atelier
   • Des informations complémentaires vous permettant d'effectuer l'atelier

2. Cliquez sur Ouvrir la console Google Cloud (ou effectuez un clic droit et sélectionnez Ouvrir le lien dans la fenêtre de navigation privée si vous utilisez le navigateur Chrome).

   L'atelier lance les ressources, puis ouvre la page Se connecter dans un nouvel onglet.

   Conseil : Réorganisez les onglets dans des fenêtres distinctes, placées côte à côte.

   Remarque : Si la boîte de dialogue Sélectionner un compte s'affiche, cliquez sur Utiliser un autre compte.

3. Si nécessaire, copiez le nom d'utilisateur ci-dessous et collez-le dans la boîte de dialogue Se connecter.

   {{{user_0.username | "Username"}}}

   Vous trouverez également le nom d'utilisateur dans le panneau Détails concernant l'atelier.

4. Cliquez sur Suivant.

5. Copiez le mot de passe ci-dessous et collez-le dans la boîte de dialogue Bienvenue.

   {{{user_0.password | "Password"}}}

   Vous trouverez également le mot de passe dans le panneau Détails concernant l'atelier.

6. Cliquez sur Suivant.

   Important : Vous devez utiliser les identifiants fournis pour l'atelier. Ne saisissez pas ceux de votre compte Google Cloud. Remarque : Si vous utilisez votre propre compte Google Cloud pour cet atelier, des frais supplémentaires peuvent vous être facturés.

7. Accédez aux pages suivantes :

   • Acceptez les conditions d'utilisation.
   • N'ajoutez pas d'options de récupération ni d'authentification à deux facteurs (ce compte est temporaire).
   • Ne vous inscrivez pas à des essais gratuits.

Après quelques instants, la console Cloud s'ouvre dans cet onglet.

Remarque : Pour afficher un menu contenant la liste des produits et services Google Cloud, cliquez sur le menu de navigation en haut à gauche.

Tâche 1 : Ouvrir le notebook dans Vertex AI Workbench

1. Dans la console Google Cloud, accédez au menu de navigation et cliquez sur Vertex AI > Workbench.

2. Sur la page Notebooks gérés par l'utilisateur, cherchez le notebook generative-ai-jupyterlab et cliquez sur le bouton Ouvrir JupyterLab.

L'interface JupyterLab s'ouvre dans un nouvel onglet du navigateur.

Tâche 2 : Ouvrir le dossier "generative-ai"

1. Accédez au dossier generative-ai situé à gauche du notebook.

2. Accédez au dossier /gemini/use-cases/retail.

3. Ouvrez le fichier multimodal_retail_recommendations.ipynb.

4. Parcourez les sections Getting Started (Premiers pas) et Import libraries (Importer des bibliothèques) du notebook.

   • Pour Project ID, utilisez et pour Location, utilisez .

Remarque : Vous pouvez ignorer les cellules du notebook avec la mention Colab only.

Cliquez sur Vérifier ma progression pour valider l'objectif.

Installer le SDK Vertex AI pour Python et importer des bibliothèques

Dans les sections suivantes, vous allez parcourir les cellules du notebook pour apprendre à utiliser les fonctionnalités multimodales du modèle Gemini Pro Vision.

Tâche 3 : Utiliser le modèle Gemini Pro Vision

Le modèle Gemini Pro Vision (gemini-pro-vision) est un modèle multimodal qui permet d'ajouter des images et des vidéos dans des requêtes de texte ou de chat pour obtenir une réponse textuelle.

1. Dans cette tâche, vous allez parcourir les cellules du notebook pour apprendre à utiliser le modèle Gemini Pro Vision afin de décrire en détail une pièce à partir de son image, en combinant du texte et une image dans une seule requête.

Cliquez sur Vérifier ma progression pour valider l'objectif.

Utiliser le modèle Gemini Pro Vision pour décrire une pièce

Tâche 4 : Générer des recommandations ouvertes basées sur des connaissances intégrées

En utilisant la même image et la description de la pièce, vous pouvez demander au modèle de recommander un meuble qui serait adapté. Notez que le modèle peut choisir n'importe quel meuble à recommander à partir de ses seules connaissances intégrées.

1. En utilisant la même image et la description de la pièce, parcourez les cellules du notebook pour apprendre à utiliser le modèle Gemini Pro Vision afin de recommander un meuble qui serait adapté.

Cliquez sur Vérifier ma progression pour valider l'objectif.

Utiliser le modèle Gemini Pro Vision pour recommander un meuble

Tâche 5 : Générer des recommandations basées sur les images fournies

Au lieu de générer des recommandations ouvertes, vous pouvez aussi fournir une liste d'articles à partir de laquelle le modèle pourra choisir un meuble. Dans cette section, vous allez télécharger quelques images de chaises et les définir comme options pouvant être recommandées par le modèle Gemini. Cela est particulièrement utile pour les entreprises du secteur du commerce qui souhaitent fournir des recommandations aux utilisateurs en fonction de leurs pièces et des articles disponibles en magasin.

1. Dans cette tâche, vous allez parcourir les cellules du notebook pour apprendre à utiliser le modèle Gemini Pro Vision afin de recommander un meuble à partir d'une liste d'articles.

Cliquez sur Vérifier ma progression pour valider l'objectif.

Utiliser le modèle Gemini Pro Vision pour recommander un article à partir d'une sélection

Félicitations !

Félicitations ! Dans cet atelier, vous avez découvert comment créer un système de recommandations multimodales pour des meubles à l'aide de Gemini. Vous avez appris à utiliser le modèle Gemini Pro Vision pour effectuer une analyse visuelle et à tenir compte de la multimodalité dans les requêtes que vous envoyez au modèle Gemini Pro Vision. Cet atelier vous a montré que vous pouviez facilement créer un système de recommandations multimodales pour des meubles à l'aide de Gemini. Vous pouvez suivre la même approche pour :

• recommander des vêtements en fonction d'une occasion ou de l'image d'un lieu ;
• recommander du papier peint en fonction d'une pièce et de sa décoration.

Étapes suivantes et informations supplémentaires

• Consultez la documentation sur l'IA générative sur Vertex AI.
• Découvrez l'IA générative sur la chaîne YouTube Google Cloud Tech.
• Dépôt officiel de l'IA générative Google Cloud
• Exemples de notebooks Gemini

Formations et certifications Google Cloud

Les formations et certifications Google Cloud vous aident à tirer pleinement parti des technologies Google Cloud. Nos cours portent sur les compétences techniques et les bonnes pratiques à suivre pour être rapidement opérationnel et poursuivre votre apprentissage. Nous proposons des formations pour tous les niveaux, à la demande, en salle et à distance, pour nous adapter aux emplois du temps de chacun. Les certifications vous permettent de valider et de démontrer vos compétences et votre expérience en matière de technologies Google Cloud.

Dernière mise à jour du manuel : 3 avril 2024

Dernier test de l'atelier : 3 avril 2024

Copyright 2024 Google LLC Tous droits réservés. Google et le logo Google sont des marques de Google LLC. Tous les autres noms d'entreprises et de produits peuvent être des marques des entreprises auxquelles ils sont associés.