GSP1210

Visão geral

Gemini (em inglês) é uma família de modelos de IA generativa desenvolvida pelo Google DeepMind, criada para casos de uso multimodais. A API Gemini dá acesso aos modelos Gemini Pro Vision e Gemini Pro. O foco deste laboratório é demonstrar vários casos de uso multimodais em que o Gemini pode ser usado. Aqui, você vai aprender a usar a API Gemini da Vertex AI para gerar texto com base em textos, imagens e comandos de vídeo.

Multimodalidade

Em comparação com os LLMs somente de texto, a multimodalidade do Gemini Pro Vision pode ser usada em muitos casos de uso novos:

Confira alguns exemplos com textos e imagens como entrada:

• Detecção de objetos em fotos
• Compreensão de telas e interfaces
• Compreensão de desenhos e abstrações
• Compreensão de gráficos e diagramas
• Recomendação de imagens com base nas preferências do usuário
• Comparação de imagens para buscar semelhanças, anomalias ou diferenças

Exemplos de casos de uso com textos e vídeos como entrada:

• Geração de descrições de vídeos
• Extração de tags de objetos de vídeos
• Extração de destaques/mensagens de vídeos

Objetivos

Neste laboratório, você vai:

• Usar a API Gemini da Vertex AI para gerar texto com base em textos, imagens e comandos de vídeo.

Configuração e requisitos

Antes de clicar no botão Start Lab

Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é iniciado quando você clica em Começar o laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.

Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.

Confira os requisitos para concluir o laboratório:

• Acesso a um navegador de Internet padrão (recomendamos o Chrome).

Observação: para executar este laboratório, use o modo de navegação anônima ou uma janela anônima do navegador. Isso evita conflitos entre sua conta pessoal e a conta de estudante, o que poderia causar cobranças extras na sua conta pessoal.

• Tempo para concluir o laboratório---não se esqueça: depois de começar, não será possível pausar o laboratório.

Observação: não use seu projeto ou conta do Google Cloud neste laboratório para evitar cobranças extras na sua conta.

Como iniciar seu laboratório e fazer login no console do Google Cloud

1. Clique no botão Começar o laboratório. Se for preciso pagar, você verá um pop-up para selecionar a forma de pagamento. No painel Detalhes do laboratório à esquerda, você vai encontrar o seguinte:

   • O botão Abrir console do Google Cloud
   • O tempo restante
   • As credenciais temporárias que você vai usar neste laboratório
   • Outras informações, se forem necessárias

2. Se você estiver usando o navegador Chrome, clique em Abrir console do Google Cloud ou clique com o botão direito do mouse e selecione Abrir link em uma janela anônima.

   O laboratório ativa os recursos e depois abre a página Fazer login em outra guia.

   Dica: coloque as guias em janelas separadas lado a lado.

   Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta.

3. Se necessário, copie o Nome de usuário abaixo e cole na caixa de diálogo Fazer login.

   {{{user_0.username | "Nome de usuário"}}}

   Você também encontra o Nome de usuário no painel Detalhes do laboratório.

4. Clique em Seguinte.

5. Copie a Senha abaixo e cole na caixa de diálogo de boas-vindas.

   {{{user_0.password | "Senha"}}}

   Você também encontra a Senha no painel Detalhes do laboratório.

6. Clique em Seguinte.

   Importante: você precisa usar as credenciais fornecidas no laboratório, e não as da sua conta do Google Cloud. Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais.

7. Acesse as próximas páginas:

   • Aceite os Termos e Condições.
   • Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
   • Não se inscreva em testes gratuitos.

Depois de alguns instantes, o console do Google Cloud será aberto nesta guia.

Observação: clique em Menu de navegação no canto superior esquerdo para acessar uma lista de produtos e serviços do Google Cloud.

Ativar todas as APIs recomendadas

1. No console do Google Cloud, acesse o menu de navegação e clique em Vertex AI.

2. Selecione Ativar todas as APIs recomendadas.

Tarefa 1: abrir o notebook no Vertex AI Workbench

1. No menu de navegação do console do Google Cloud, clique em Vertex AI > Workbench.

2. Na página Notebooks gerenciados pelo usuário, encontre o notebook generative-ai-jupyterlab e clique no botão Abrir o JupyterLab.

A interface do JupyterLab será aberta em uma nova guia do navegador.

Tarefa 2: abrir a pasta generative-ai

1. Acesse a pasta generative-ai à esquerda no notebook.

2. Navegue até a pasta /gemini/use-cases/.

3. Clique no arquivo intro_multimodal_use_cases.ipynb.

4. Confira as seções Getting Started e Import libraries do notebook.

   • Para Project ID, use , e em Location, use .

Observação: é possível pular qualquer célula do notebook que tenha a indicação Colab only.

Nas seções a seguir, você vai conferir as células do notebook para entender como usar a API Gemini da Vertex AI com o SDK da Vertex AI para Python.

Tarefa 3: usar o modelo Gemini Pro Vision

O Gemini Pro Vision (gemini-pro-vision) é um modelo multimodal que oferece suporte a comandos multimodais. É possível incluir textos, imagens e vídeos nos comandos e receber respostas em texto ou código.

Nesta tarefa, confira as células do notebook para entender como usar o modelo Gemini Pro Vision. Volte aqui para verificar seu progresso à medida que concluir os objetivos.

Compreensão de imagens em várias imagens

Um dos recursos do Gemini é a capacidade de fazer avaliações de várias imagens. Neste exemplo, você vai usar o Gemini para calcular o custo total de uma compra de mercado usando uma imagem de frutas e uma lista de preços.

Analise a seção Compreensão de imagens em várias imagens do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Compreensão de imagens em várias imagens

Compreensão de telas e interfaces

O Gemini também pode extrair informações de telas de dispositivos, interfaces, capturas de tela, ícones e layouts. Neste exemplo, você vai usar o Gemini para extrair informações sobre um fogão para ajudar um usuário a navegar na interface e responder em diferentes idiomas:

Analise a seção Compreensão de telas e interfaces do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Compreensão de telas e interfaces

Compreensão dos relacionamentos de entidades em diagramas técnicos

O Gemini tem recursos multimodais que permitem que ele compreenda diagramas e tome medidas práticas, como otimização ou geração de códigos. Neste exemplo, você vai saber como o Gemini decifra um diagrama de relacionamento de entidades (ER, na sigla em inglês), entender as relações entre tabelas, identificar requisitos para otimização em um ambiente específico como o BigQuery e até mesmo gerar o código correspondente.

Analise a seção Understanding entity relationships in technical diagrams do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Compreensão dos relacionamentos de entidades em diagramas técnicos

Recomendações com base em várias imagens

O Gemini é capaz de comparar imagens e oferecer recomendações. Isso pode ser útil em setores como e-commerce e varejo. Neste exemplo, você vai usar o Gemini para recomendar os óculos mais adequados para um rosto com formato oval.

Analise a seção Recomendações com base em várias imagens do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Recomendações com base em várias imagens

Semelhanças/diferenças

O Gemini pode comparar imagens e identificar semelhanças ou diferenças entre objetos. Neste exemplo, você vai usar o Gemini para comparar duas imagens do mesmo local e identificar as diferenças entre elas.

Analise a seção Semelhanças/diferenças do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Semelhanças/diferenças

Geração de descrições de vídeos

O Gemini pode gerar a descrição de um vídeo. Neste exemplo, você vai usar o Gemini para gerar a descrição de um vídeo da costa do mar Mediterrâneo.

Confira a seção Geração de descrições de vídeos do notebook.

Extração de tags de objetos de vídeos

O Gemini também é capaz de extrair tags em um vídeo. Neste exemplo, você vai usar o Gemini para extrair tags de objetos em um vídeo de uma sessão de fotos e gerar hashtags.

Confira a seção Extração de tags de objetos de vídeos do notebook.

Fazer mais perguntas sobre um vídeo

O Gemini pode responder perguntas sobre um vídeo. Neste exemplo, você vai usar o Gemini para responder perguntas sobre o vídeo e retornar uma resposta JSON.

Confira a seção Fazer mais perguntas sobre um vídeo do notebook.

Recuperar mais informações, além das que estão no vídeo

O Gemini também pode recuperar mais informações, além das que aparecem no vídeo. Neste exemplo, você vai usar o Gemini para recuperar informações extras sobre o vídeo, como fazer perguntas específicas sobre o trajeto de um trem.

Confira a seção Recuperar mais informações, além das que estão no vídeo do notebook.

Parabéns!

Você concluiu o laboratório. Nele, você aprendeu a usar a API Gemini da Vertex AI para gerar texto a partir de comandos de textos e imagens.

Próximas etapas / Saiba mais

• Consulte a documentação da IA generativa na Vertex AI.
• Saiba mais sobre a IA generativa no canal de tecnologia do Google Cloud no YouTube.
• Repositório oficial da IA generativa do Google Cloud (em inglês)
• Exemplos de notebooks Gemini (em inglês)

Treinamento e certificação do Google Cloud

Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.

Manual atualizado em 7 de março de 2024

Laboratório testado em 7 de março de 2024

Copyright 2024 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.