GSP1210

Descripción general

Gemini es una familia de modelos de IA generativa que desarrolló Google DeepMind y que están diseñados para casos de uso multimodales. La API de Gemini te da acceso a los modelos de Gemini Pro Vision y Gemini Pro. Este lab se enfoca en demostrar una variedad de casos de uso multimodales para los que se puede usar Gemini. En este lab, aprenderás a usar la API de Vertex AI para Gemini para generar texto a partir de instrucciones de texto, imágenes y video.

Multimodalidad

En comparación con los LLM solo de texto, la multimodalidad de Gemini Pro Vision puede usarse para muchos casos de uso nuevos:

Estos son algunos ejemplos de casos de uso con texto e imágenes como entrada:

• Detectar objetos en fotos
• Comprender pantallas e interfaces
• Comprender dibujos y abstracción
• Comprender gráficos y diagramas
• Recomendación de imágenes basadas en las preferencias del usuario
• Comparar imágenes para buscar similitudes, anomalías o diferencias

Estos son algunos ejemplos de casos de uso con texto y video como entrada:

• Generar una descripción de video
• Extraer etiquetas de objetos a lo largo de un video
• Extraer momentos destacados y mensajes de un video

Objetivos

En este lab, aprenderás a hacer lo siguiente:

• Usar la API de Vertex AI para Gemini para generar instrucciones de texto a partir de texto, imágenes y video

Configuración y requisitos

Antes de hacer clic en el botón Comenzar lab

Lee estas instrucciones. Los labs son cronometrados y no se pueden pausar. El cronómetro, que comienza a funcionar cuando haces clic en Comenzar lab, indica por cuánto tiempo tendrás a tu disposición los recursos de Google Cloud.

Este lab práctico te permitirá realizar las actividades correspondientes en un entorno de nube real, no en uno de simulación o demostración. Para ello, se te proporcionan credenciales temporales nuevas que utilizarás para acceder a Google Cloud durante todo el lab.

Para completar este lab, necesitarás lo siguiente:

• Acceso a un navegador de Internet estándar (se recomienda el navegador Chrome)

Nota: Usa una ventana de navegador privada o de Incógnito para ejecutar este lab. Así evitarás cualquier conflicto entre tu cuenta personal y la cuenta de estudiante, lo que podría generar cargos adicionales en tu cuenta personal.

• Tiempo para completar el lab: Recuerda que, una vez que comienzas un lab, no puedes pausarlo.

Nota: Si ya tienes un proyecto o una cuenta personal de Google Cloud, no los uses en este lab para evitar cargos adicionales en tu cuenta.

Cómo iniciar tu lab y acceder a la consola de Google Cloud

1. Haga clic en el botón Comenzar lab. Si debe pagar por el lab, se abrirá una ventana emergente para que seleccione su forma de pago. A la izquierda, se encuentra el panel Detalles del lab, que tiene estos elementos:

   • El botón Abrir la consola de Google Cloud
   • El tiempo restante
   • Las credenciales temporales que debe usar para el lab
   • Otra información para completar el lab, si es necesaria

2. Haz clic en Abrir la consola de Google Cloud (o haz clic con el botón derecho y selecciona Abrir el vínculo en una ventana de incógnito si ejecutas el navegador Chrome).

   El lab inicia recursos y abre otra pestaña en la que se muestra la página de acceso.

   Sugerencia: Ordene las pestañas en ventanas separadas, una junto a la otra.

   Nota: Si ves el diálogo Elegir una cuenta, haz clic en Usar otra cuenta.

3. De ser necesario, copia el nombre de usuario a continuación y pégalo en el diálogo Acceder.

   {{{user_0.username | "Username"}}}

   También puedes encontrar el nombre de usuario en el panel Detalles del lab.

4. Haz clic en Siguiente.

5. Copia la contraseña que aparece a continuación y pégala en el diálogo Te damos la bienvenida.

   {{{user_0.password | "Password"}}}

   También puedes encontrar la contraseña en el panel Detalles del lab.

6. Haz clic en Siguiente.

   Importante: Debes usar las credenciales que te proporciona el lab. No uses las credenciales de tu cuenta de Google Cloud. Nota: Usar tu propia Cuenta de Google podría generar cargos adicionales.

7. Haga clic para avanzar por las páginas siguientes:

   • Acepta los Términos y Condiciones.
   • No agregues opciones de recuperación o autenticación de dos factores (esta es una cuenta temporal).
   • No te registres para obtener pruebas gratuitas.

Después de un momento, se abrirá la consola de Google Cloud en esta pestaña.

Nota: Para ver un menú con una lista de productos y servicios de Google Cloud, haz clic en el menú de navegación que se encuentra en la parte superior izquierda.

Habilita todas las APIs recomendadas

1. En el menú de navegación de la consola de Google Cloud, haz clic en Vertex AI.

2. Haz clic en Habilitar todas las APIs recomendadas.

Tarea 1. Abre el notebook en Vertex AI Workbench

1. En el menú de navegación de la consola de Google Cloud, haz clic en Vertex AI > Workbench.

2. En la página Notebooks administrados por el usuario, busca el notebook generative-ai-jupyterlab y haz clic en el botón Abrir JupyterLab.

La interfaz de JupyterLab se abre en una pestaña nueva del navegador.

Tarea 2. Abre la carpeta generative-ai

1. Navega a la carpeta generative-ai en la parte izquierda del notebook.

2. Navega a la carpeta /gemini/use-cases/.

3. Haz clic en el archivo intro_multimodal_use_cases.ipynb.

4. Ejecuta las secciones Getting Started e Import libraries del notebook.

   • Para Project ID, usa y para Location, usa .

Nota: Puedes omitir las celdas del notebook que tienen la indicación Colab only.

En las siguientes secciones, ejecutarás las celdas del notebook para ver cómo usar la API de Vertex AI para Gemini con el SDK de Vertex AI para Python.

Tarea 3. Usa el modelo de Gemini Pro Vision

Gemini Pro Vision (gemini-pro-vision) es un modelo multimodal que es compatible con las instrucciones multimodales. Puedes incluir texto, imágenes y video en las solicitudes de instrucciones y obtener respuestas de texto o código.

En esta tarea, ejecutarás las celdas del notebook para ver cómo usar el modelo de Gemini Pro Vision. Regresa aquí para revisar tu progreso a medida que completes los objetivos.

Comprensión de imágenes en varias imágenes

Una de las capacidades de Gemini es razonar en varias imágenes. En este ejemplo, usarás Gemini para calcular el costo total de alimentos usando una imagen de frutas y una lista de precios.

Ejecuta la sección Comprensión de imágenes en varias imágenes del notebook.

Haz clic en Revisar mi progreso para verificar el objetivo. Comprender imágenes en varias imágenes

Comprensión de pantallas e interfaces

Gemini también puede extraer información de pantallas de dispositivos, IU, capturas de pantalla, íconos y diseños. En este ejemplo, usarás Gemini para extraer información a partir de una estufa para ayudar a un usuario a navegar la IU y responder en diferentes idiomas:

Ejecuta la sección Comprensión de pantallas e interfaces del notebook.

Haz clic en Revisar mi progreso para verificar el objetivo. Comprender pantallas e interfaces

Comprensión de relaciones entre entidades en diagramas técnicos

Gemini tiene capacidades multimodales que le permiten comprender diagramas y tomar medidas prácticas, como optimización o generación de código. En este ejemplo, verás cómo Gemini puede descifrar un diagrama de relación de entidades (ER), comprender las relaciones entre tablas, identificar requisitos de optimización en un entorno específico como BigQuery e incluso generar el código correspondiente.

Ejecuta la sección Comprensión de relaciones entre entidades en diagramas técnicos del notebook.

Haz clic en Revisar mi progreso para verificar el objetivo. Comprender las relaciones entre entidades en diagramas técnicos

Recomendaciones basadas en varias imágenes

Gemini puede comparar imágenes y ofrecer recomendaciones. Esto puede ser útil en industrias como el comercio electrónico y de venta minorista. En este ejemplo, usarás Gemini para recomendar qué par de lentes sería más adecuado para una cara ovalada.

Ejecuta la sección Recomendaciones basadas en varias imágenes del notebook.

Haz clic en Revisar mi progreso para verificar el objetivo. Generar recomendaciones basadas en varias imágenes

Similitudes y diferencias

Gemini puede comparar imágenes e identificar similitudes o diferencias entre objetos. En este ejemplo, usarás Gemini para comparar dos imágenes de la misma ubicación e identificar las diferencias entre ellas.

Ejecuta la sección Similitudes y diferencias del notebook.

Haz clic en Revisar mi progreso para verificar el objetivo. Identificar similitudes y diferencias

Generación de una descripción de video

Gemini puede generar una descripción de un video. En este ejemplo, usarás Gemini para generar una descripción de un video de una costa mediterránea.

Ejecuta la sección Generación de una descripción de video del notebook.

Extracción de etiquetas de objetos a lo largo del video

Gemini también puede extraer etiquetas a lo largo de un video. En este ejemplo, usarás Gemini para extraer etiquetas de objetos a lo largo de un video de una sesión fotográfica y generar hashtags.

Ejecuta la sección Extracción de etiquetas de objetos a lo largo del video del notebook.

Formulación de preguntas adicionales sobre un video

Gemini puede responder preguntas sobre un video. En este ejemplo, usarás Gemini para responder preguntas sobre el video y devolver una respuesta de JSON.

Ejecuta la sección Formulación de preguntas adicionales sobre un video del notebook.

Recuperación de información adicional más allá del video

Gemini también puede recuperar información adicional más allá del video. En este ejemplo, usarás Gemini para recuperar información adicional del video, como hacer preguntas específicas sobre una ruta de tren.

Ejecuta la sección Recuperación de información adicional más allá del video del notebook.

¡Felicitaciones!

Ya completaste el lab. En este lab, aprendiste a usar la API de Vertex AI para Gemini para generar texto a partir de instrucciones de texto e imágenes.

Próximos pasos y más información

• Consulta la documentación de la IA generativa en Vertex AI.
• Obtén más información sobre la IA generativa en el canal de YouTube Google Cloud Tech.
• Repo oficial de la IA generativa de Google Cloud
• Notebooks de Gemini de ejemplo

Capacitación y certificación de Google Cloud

Recibe la formación que necesitas para aprovechar al máximo las tecnologías de Google Cloud. Nuestras clases incluyen habilidades técnicas y recomendaciones para ayudarte a avanzar rápidamente y a seguir aprendiendo. Para que puedas realizar nuestros cursos cuando más te convenga, ofrecemos distintos tipos de capacitación de nivel básico a avanzado: a pedido, presenciales y virtuales. Las certificaciones te ayudan a validar y demostrar tus habilidades y tu conocimiento técnico respecto a las tecnologías de Google Cloud.

Última actualización del manual: 7 de marzo de 2024

Prueba más reciente del lab: 7 de marzo de 2024

Copyright 2024 Google LLC. All rights reserved. Google y el logotipo de Google son marcas de Google LLC. Los demás nombres de productos y empresas pueden ser marcas de las respectivas empresas a las que estén asociados.