Before you begin
- Labs create a Google Cloud project and resources for a fixed time
- Labs have a time limit and no pause feature. If you end the lab, you'll have to restart from the beginning.
- On the top left of your screen, click Start lab to begin
Checkpoints
Image understanding across multiple images
/ 10
Understanding Screens and Interfaces
/ 10
Understanding entity relationships in technical diagrams
/ 10
Recommendations based on multiple images
/ 10
Similarity/Differences
/ 10
Generating a video description
/ 10
Extracting tags of objects throughout the video
/ 10
Asking more questions about a video
/ 10
Retrieving extra information beyond the video
/ 20
Quick tip: Review the prerequisites before you run the lab
Use an Incognito or private browser window to run this lab. This prevents any conflicts between your personal account and the student account, which may cause extra charges incurred to your personal account.
Teste e compartilhe seu conhecimento com nossa comunidade.
Multimodalidade com o Gemini
Instruções e tarefas do laboratório
Teste e compartilhe seu conhecimento com nossa comunidade.
GSP1210
Visão geral
Gemini (em inglês) é uma família de modelos de IA generativa desenvolvida pelo Google DeepMind, criada para casos de uso multimodais. A API Gemini dá acesso aos modelos Gemini Pro Vision e Gemini Pro. O foco deste laboratório é demonstrar vários casos de uso multimodais em que o Gemini pode ser usado. Aqui, você vai aprender a usar a API Gemini da Vertex AI para gerar texto com base em textos, imagens e comandos de vídeo.
Multimodalidade
Em comparação com os LLMs somente de texto, a multimodalidade do Gemini Pro Vision pode ser usada em muitos casos de uso novos:
Confira alguns exemplos com textos e imagens como entrada:
- Detecção de objetos em fotos
- Compreensão de telas e interfaces
- Compreensão de desenhos e abstrações
- Compreensão de gráficos e diagramas
- Recomendação de imagens com base nas preferências do usuário
- Comparação de imagens para buscar semelhanças, anomalias ou diferenças
Exemplos de casos de uso com textos e vídeos como entrada:
- Geração de descrições de vídeos
- Extração de tags de objetos de vídeos
- Extração de destaques/mensagens de vídeos
Objetivos
Neste laboratório, você vai:
- Usar a API Gemini da Vertex AI para gerar texto com base em textos, imagens e comandos de vídeo.
Configuração e requisitos
Antes de clicar no botão Start Lab
Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é iniciado quando você clica em Começar o laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.
Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.
Confira os requisitos para concluir o laboratório:
- Acesso a um navegador de Internet padrão (recomendamos o Chrome).
- Tempo para concluir o laboratório---não se esqueça: depois de começar, não será possível pausar o laboratório.
Como iniciar seu laboratório e fazer login no console do Google Cloud
-
Clique no botão Começar o laboratório. Se for preciso pagar, você verá um pop-up para selecionar a forma de pagamento. No painel Detalhes do laboratório à esquerda, você vai encontrar o seguinte:
- O botão Abrir console do Google Cloud
- O tempo restante
- As credenciais temporárias que você vai usar neste laboratório
- Outras informações, se forem necessárias
-
Se você estiver usando o navegador Chrome, clique em Abrir console do Google Cloud ou clique com o botão direito do mouse e selecione Abrir link em uma janela anônima.
O laboratório ativa os recursos e depois abre a página Fazer login em outra guia.
Dica: coloque as guias em janelas separadas lado a lado.
Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta. -
Se necessário, copie o Nome de usuário abaixo e cole na caixa de diálogo Fazer login.
{{{user_0.username | "Nome de usuário"}}} Você também encontra o Nome de usuário no painel Detalhes do laboratório.
-
Clique em Seguinte.
-
Copie a Senha abaixo e cole na caixa de diálogo de boas-vindas.
{{{user_0.password | "Senha"}}} Você também encontra a Senha no painel Detalhes do laboratório.
-
Clique em Seguinte.
Importante: você precisa usar as credenciais fornecidas no laboratório, e não as da sua conta do Google Cloud. Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais. -
Acesse as próximas páginas:
- Aceite os Termos e Condições.
- Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
- Não se inscreva em testes gratuitos.
Depois de alguns instantes, o console do Google Cloud será aberto nesta guia.
Ativar todas as APIs recomendadas
-
No console do Google Cloud, acesse o menu de navegação e clique em Vertex AI.
-
Selecione Ativar todas as APIs recomendadas.
Tarefa 1: abrir o notebook no Vertex AI Workbench
-
No menu de navegação (
) do console do Google Cloud, clique em Vertex AI > Workbench.
-
Ache a instância
e clique no botão Abrir o JupyterLab.
A interface do JupyterLab para sua instância do Workbench é aberta em uma nova guia do navegador.
Tarefa 2: configurar o notebook
-
Clique no arquivo
. -
Na caixa de diálogo Select Kernel, escolha Python 3 na lista de kernels disponíveis.
-
Confira as seções Getting Started e Import libraries do notebook.
- Para Project ID, use
, e em Location, use .
- Para Project ID, use
Nas seções a seguir, você vai conferir as células do notebook para entender como usar a API Gemini da Vertex AI com o SDK da Vertex AI para Python.
Tarefa 3: usar o modelo Gemini Pro Vision
O Gemini Pro Vision (gemini-pro-vision) é um modelo multimodal que oferece suporte a comandos multimodais. É possível incluir textos, imagens e vídeos nos comandos e receber respostas em texto ou código.
Nesta tarefa, confira as células do notebook para entender como usar o modelo Gemini Pro Vision. Volte aqui para verificar seu progresso à medida que concluir os objetivos.
Compreensão de imagens em várias imagens
Um dos recursos do Gemini é a capacidade de fazer avaliações de várias imagens. Neste exemplo, você vai usar o Gemini para calcular o custo total de uma compra de mercado usando uma imagem de frutas e uma lista de preços.
Analise a seção Compreensão de imagens em várias imagens do notebook.
Clique em Verificar meu progresso para conferir o objetivo.
Compreensão de telas e interfaces
O Gemini também pode extrair informações de telas de dispositivos, interfaces, capturas de tela, ícones e layouts. Neste exemplo, você vai usar o Gemini para extrair informações sobre um fogão para ajudar um usuário a navegar na interface e responder em diferentes idiomas:
Analise a seção Compreensão de telas e interfaces do notebook.
Clique em Verificar meu progresso para conferir o objetivo.
Compreensão dos relacionamentos de entidades em diagramas técnicos
O Gemini tem recursos multimodais que permitem que ele compreenda diagramas e tome medidas práticas, como otimização ou geração de códigos. Neste exemplo, você vai saber como o Gemini decifra um diagrama de relacionamento de entidades (ER, na sigla em inglês), entender as relações entre tabelas, identificar requisitos para otimização em um ambiente específico como o BigQuery e até mesmo gerar o código correspondente.
Analise a seção Understanding entity relationships in technical diagrams do notebook.
Clique em Verificar meu progresso para conferir o objetivo.
Recomendações com base em várias imagens
O Gemini é capaz de comparar imagens e oferecer recomendações. Isso pode ser útil em setores como e-commerce e varejo. Neste exemplo, você vai usar o Gemini para recomendar os óculos mais adequados para um rosto com formato oval.
Analise a seção Recomendações com base em várias imagens do notebook.
Clique em Verificar meu progresso para conferir o objetivo.
Semelhanças/diferenças
O Gemini pode comparar imagens e identificar semelhanças ou diferenças entre objetos. Neste exemplo, você vai usar o Gemini para comparar duas imagens do mesmo local e identificar as diferenças entre elas.
Analise a seção Semelhanças/diferenças do notebook.
Clique em Verificar meu progresso para conferir o objetivo.
Geração de descrições de vídeos
O Gemini pode gerar a descrição de um vídeo. Neste exemplo, você vai usar o Gemini para gerar a descrição de um vídeo da costa do mar Mediterrâneo.
Confira a seção Geração de descrições de vídeos do notebook.
Extração de tags de objetos de vídeos
O Gemini também é capaz de extrair tags em um vídeo. Neste exemplo, você vai usar o Gemini para extrair tags de objetos em um vídeo de uma sessão de fotos e gerar hashtags.
Confira a seção Extração de tags de objetos de vídeos do notebook.
Fazer mais perguntas sobre um vídeo
O Gemini pode responder perguntas sobre um vídeo. Neste exemplo, você vai usar o Gemini para responder perguntas sobre o vídeo e retornar uma resposta JSON.
Confira a seção Fazer mais perguntas sobre um vídeo do notebook.
Recuperar mais informações, além das que estão no vídeo
O Gemini também pode recuperar mais informações, além das que aparecem no vídeo. Neste exemplo, você vai usar o Gemini para recuperar informações extras sobre o vídeo, como fazer perguntas específicas sobre o trajeto de um trem.
Confira a seção Recuperar mais informações, além das que estão no vídeo do notebook.
Parabéns!
Você concluiu o laboratório. Nele, você aprendeu a usar a API Gemini da Vertex AI para gerar texto a partir de comandos de textos e imagens.
Próximas etapas / Saiba mais
- Consulte a documentação da IA generativa na Vertex AI.
- Saiba mais sobre a IA generativa no canal de tecnologia do Google Cloud no YouTube.
- Repositório oficial da IA generativa do Google Cloud (em inglês)
- Exemplos de notebooks do Gemini (em inglês)
Treinamento e certificação do Google Cloud
Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.
Manual atualizado em 8 de outubro de 2024
Laboratório testado em 8 de outubro de 2024
Copyright 2025 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.
