GSP1230

Visão geral

Gemini (em inglês) é uma família de modelos de IA generativa desenvolvida pelo Google DeepMind, criada para casos de uso multimodais. A API Gemini dá acesso aos modelos Gemini Pro Vision e Gemini Pro.

Para as empresas de varejo, os sistemas de recomendação melhoram a experiência do cliente e podem aumentar as vendas. Neste laboratório, você vai aprender a usar o modelo Gemini Pro Vision para criar um sistema de recomendação multimodal. O modelo Gemini Pro Vision pode fornecer recomendações e explicações usando um modelo multimodal.

Neste laboratório, você vai começar com uma cena (por exemplo, uma sala de estar) e usar o modelo Gemini Pro Vision para entender o aspecto visual. Você também vai investigar como o modelo Gemini Pro Vision pode ser usado para recomendar um item (por exemplo, uma cadeira) de uma lista de móveis como entrada.

API Gemini da Vertex AI

A API Gemini da Vertex AI tem uma interface unificada para interagir com os modelos Gemini. Há dois modelos disponíveis na API Gemini no momento:

1. Modelo Gemini Pro (gemini-pro): projetado para processar tarefas de linguagem natural, chat de código e texto com várias interações e geração de código.
2. Modelo Gemini Pro Vision (gemini-pro-vision): oferece suporte a comandos multimodais. É possível incluir texto, imagens e vídeo nos comandos e receber respostas de texto ou código.

É possível interagir com a API Gemini usando os seguintes métodos:

• Usar o Vertex AI Studio para testes rápidos e geração de comandos
• Usar comandos cURL
• Usar o SDK da Vertex AI

O foco deste laboratório são os recursos multimodais do modelo Gemini Pro Vision.

Consulte a documentação da IA generativa na Vertex AI para saber mais.

Objetivos

Neste laboratório, você vai aprender a:

• Usar o modelo Gemini Pro Vision (gemini-pro-vision) para realizar a compreensão visual
• Usar a multimodalidade na criação de comandos no modelo Gemini Pro Vision
• Criar um aplicativo de recomendação de varejo usando o modelo Gemini Pro Vision

Configuração e requisitos

Antes de clicar no botão Start Lab

Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é iniciado quando você clica em Começar o laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.

Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.

Confira os requisitos para concluir o laboratório:

• Acesso a um navegador de Internet padrão (recomendamos o Chrome).

Observação: para executar este laboratório, use o modo de navegação anônima ou uma janela anônima do navegador. Isso evita conflitos entre sua conta pessoal e a conta de estudante, o que poderia causar cobranças extras na sua conta pessoal.

• Tempo para concluir o laboratório---não se esqueça: depois de começar, não será possível pausar o laboratório.

Observação: não use seu projeto ou conta do Google Cloud neste laboratório para evitar cobranças extras na sua conta.

Como iniciar seu laboratório e fazer login no console do Google Cloud

1. Clique no botão Começar o laboratório. Se for preciso pagar, você verá um pop-up para selecionar a forma de pagamento. No painel Detalhes do laboratório à esquerda, você vai encontrar o seguinte:

   • O botão Abrir console do Google Cloud
   • O tempo restante
   • As credenciais temporárias que você vai usar neste laboratório
   • Outras informações, se forem necessárias

2. Se você estiver usando o navegador Chrome, clique em Abrir console do Google Cloud ou clique com o botão direito do mouse e selecione Abrir link em uma janela anônima.

   O laboratório ativa os recursos e depois abre a página Fazer login em outra guia.

   Dica: coloque as guias em janelas separadas lado a lado.

   Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta.

3. Se necessário, copie o Nome de usuário abaixo e cole na caixa de diálogo Fazer login.

   {{{user_0.username | "Nome de usuário"}}}

   Você também encontra o Nome de usuário no painel Detalhes do laboratório.

4. Clique em Seguinte.

5. Copie a Senha abaixo e cole na caixa de diálogo de boas-vindas.

   {{{user_0.password | "Senha"}}}

   Você também encontra a Senha no painel Detalhes do laboratório.

6. Clique em Seguinte.

   Importante: você precisa usar as credenciais fornecidas no laboratório, e não as da sua conta do Google Cloud. Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais.

7. Acesse as próximas páginas:

   • Aceite os Termos e Condições.
   • Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
   • Não se inscreva em testes gratuitos.

Depois de alguns instantes, o console do Google Cloud será aberto nesta guia.

Observação: clique em Menu de navegação no canto superior esquerdo para acessar uma lista de produtos e serviços do Google Cloud.

Tarefa 1: abrir o notebook no Vertex AI Workbench

1. No menu de navegação do console do Google Cloud, clique em Vertex AI > Workbench.

2. Na página Notebooks gerenciados pelo usuário, encontre o notebook generative-ai-jupyterlab e clique no botão Abrir o JupyterLab.

A interface do JupyterLab será aberta em uma nova guia do navegador.

Tarefa 2: abrir a pasta generative-ai

1. Acesse a pasta generative-ai à esquerda no notebook.

2. Navegue até a pasta /gemini/use-cases/.

3. Abra o arquivo multimodal_retail_recommendations.ipynb.

4. Confira as seções Introdução e Importar bibliotecas do notebook.

   • Para ID do projeto, use , e em Local, use .

Observação: você pode pular qualquer célula do notebook que tenha a indicação somente Colab.

Clique em Verificar meu progresso para conferir o objetivo.

Instalar o SDK da Vertex AI para Python e importar bibliotecas.

Nas seções a seguir, você vai conferir as células do notebook para entender como usar os recursos multimodais do modelo Gemini Pro Vision.

Tarefa 3: usar o modelo Gemini Pro Vision

O modelo Gemini Pro Vision (gemini-pro-vision) é um modelo multimodal que permite adicionar imagens e vídeos em comandos de texto ou chat para gerar uma resposta em texto.

1. Nesta tarefa, confira as células do notebook para entender como usar o modelo Gemini Pro Vision para descrever um cômodo em detalhes a partir da imagem, combinando texto e imagem em um único comando.

Clique em Verificar meu progresso para conferir o objetivo.

Usar o modelo Gemini Pro Vision para descrever um cômodo.

Tarefa 4: gerar recomendações abertas com base no conhecimento incorporado

Usando a mesma imagem, peça ao modelo que recomende um móvel que caiba nele, com a descrição do cômodo. Observe que o modelo pode escolher qualquer móvel para recomendar nesse caso com base apenas no conhecimento interno.

1. Usando a mesma imagem, execute as células do notebook para saber como usar o modelo Gemini Pro Vision para recomendar um móvel que caiba no cômodo, com a descrição do cômodo.

Clique em Verificar meu progresso para conferir o objetivo.

Usar o modelo Gemini Pro Vision para recomendar um móvel.

Tarefa 5: gerar recomendações com base nas imagens fornecidas

Em vez de manter a recomendação aberta, você também pode fornecer uma lista de itens para o modelo escolher. Nesta seção, você vai fazer o download de algumas imagens de cadeiras e defini-las como opções para o modelo do Gemini recomendar. Isso é muito útil para empresas de varejo que querem oferecer recomendações aos usuários com base no tipo de cômodo que eles têm e nos itens disponíveis que a loja oferece.

1. Nesta tarefa, confira as células do notebook para entender como usar o modelo Gemini Pro Vision para recomendar um móvel dentre várias opções na lista.

Clique em Verificar meu progresso para conferir o objetivo.

Usar o modelo Gemini Pro Vision para recomendar um item de uma seleção.

Parabéns!

Parabéns! Neste laboratório, você aprendeu a criar um sistema de recomendação multimodal de móveis usando o Gemini. Você aprendeu como usar o modelo Gemini Pro Vision para entender o aspecto visual e como usar a multimodalidade na criação de comandos no modelo Gemini Pro Vision. Este laboratório mostrou como é fácil criar um sistema de recomendação multimodal de móveis usando o Gemini, mas também é possível usar uma abordagem semelhante para:

• Recomendar roupas com base em uma ocasião ou em uma imagem do local do evento
• Recomendar papéis de parede com base no cômodo e nas instalações

Próximas etapas/saiba mais

• Consulte a documentação da IA generativa na Vertex AI.
• Saiba mais sobre a IA generativa no canal de tecnologia do Google Cloud no YouTube.
• Repositório oficial da IA generativa do Google Cloud (em inglês)
• Exemplos de notebooks Gemini (em inglês)

Treinamento e certificação do Google Cloud

Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.

Manual atualizado em 03 de abril de 2024

Laboratório testado em 03 de abril de 2024

Copyright 2024 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.