GSP1165

Descripción general

El diseño de instrucciones es el proceso de creación de instrucciones eficaces para generar el resultado deseado a partir de un modelo de lenguaje grande (LLM) como PaLM. Las instrucciones se pueden usar para generar texto, traducir idiomas, escribir distintos tipos de contenido creativo y responder a tus preguntas de forma informativa.

Para obtener buenos resultados en tu instrucción, debes tratar de que sea específica, usar palabras clave que sean relevantes para el resultado que deseas generar y proporcionarle a PaLM ejemplos del resultado que deseas para ayudarlo a comprender mejor lo que estás buscando.

En este lab, desempeñarás el rol de analista de marketing de una empresa de bienes raíces. Debes crear instrucciones que puedan extraer resúmenes de descripciones de viviendas muy largas en el sitio web de tu empresa para ayudar a los clientes a encontrar viviendas que se ajusten a sus requisitos específicos.

Qué aprenderás

En este lab, revisarás Vertex AI como plataforma de IA y AA, y explorarás cómo hacer lo siguiente:

• Diseñar instrucciones de buena calidad
• Interactuar con PaLM para obtener las respuestas deseadas
• Estar al tanto de las alucinaciones en las respuestas.

Caso de uso

Tu empresa está interesada en usar modelos de lenguaje grande (LLM) para devolver descripciones breves de texto de viviendas a los compradores después de que proporcionen las características de la vivienda que están buscando.

Te asignaron la tarea de crear instrucciones que resuman el texto de descripciones muy largas de viviendas en tu sitio de bienes raíces. Las descripciones se almacenan en un archivo en un bucket de Google Cloud Storage.

Empiezas usando Model Garden para explorar los modelos entrenados previamente disponibles y ahorrar tiempo, y también implementar una solución lo antes posible.

Funciones de Vertex AI usadas en este lab

Modelos de IA generativa

Los modelos de IA generativa disponibles en Vertex AI, también llamados modelos de base, se clasifican por el tipo de contenido que están diseñados para generar. En este contenido se incluye texto y chat, imágenes, código y también incorporaciones de texto. Cada modelo se expone a través de un extremo de publicador específico para tu proyecto de Google Cloud, por lo que no es necesario implementar el modelo de base, a menos que necesites ajustarlo para un caso de uso específico.

Pathways y Pathways Language Model (PaLM)

Pathways es un modelo único que podría generalizarse a través de dominios y tareas, a la vez que es altamente eficiente. Pathways Language Model (PaLM) es un modelo Transformer denso de solo decodificador entrenado con el sistema Pathways, que permitió a Google entrenar de forma eficiente un único modelo en varios Pods de TPU v4. PaLM se evaluó en cientos de tareas de comprensión y generación de lenguaje; tiene grandes capacidades en tareas multilingües y generación de código fuente.

PaLM 2 es el modelo subyacente que impulsa la API de PaLM. PaLM 2 es un modelo de lenguaje de última generación con capacidades multilingües, de razonamiento y de programación mejoradas. Para obtener más información sobre PaLM 2, consulta Introducción a PaLM 2. En este notebook se muestra cómo diseñar instrucciones para crear distintos tipos de resúmenes.

Vertex AI Studio

Vertex AI Studio es una herramienta de la consola de Google Cloud para crear prototipos de modelos de IA generativa y probarlos con rapidez. Puedes probar instrucciones de muestra, diseñar tus propias instrucciones y personalizar los modelos de base para administrar tareas que satisfagan las necesidades de tu aplicación. Puedes hacer lo siguiente:

• Probar modelos con instrucciones de muestra
• Diseñar y guardar tus propias instrucciones
• Ajustar un modelo de base
• Convertir entre voz y texto

Obtén más información sobre AI Studio en la documentación oficial.

Vertex AI Workbench

Vertex AI Workbench es una infraestructura informática completamente administrada, escalable y preparada para empresas que proporciona un entorno único para que los científicos de datos completen todo su trabajo del AA, desde la experimentación hasta la implementación, la administración y la supervisión de modelos. Se trata de un entorno basado en Jupyter que incluye una amplia variedad de herramientas y servicios, como notebooks de Jupyter o recursos informáticos administrados.

Configuración y requisitos

Antes de hacer clic en el botón Comenzar lab

Lee estas instrucciones. Los labs son cronometrados y no se pueden pausar. El cronómetro, que comienza a funcionar cuando haces clic en Comenzar lab, indica por cuánto tiempo tendrás a tu disposición los recursos de Google Cloud.

Este lab práctico te permitirá realizar las actividades correspondientes en un entorno de nube real, no en uno de simulación o demostración. Para ello, se te proporcionan credenciales temporales nuevas que utilizarás para acceder a Google Cloud durante todo el lab.

Para completar este lab, necesitarás lo siguiente:

• Acceso a un navegador de Internet estándar (se recomienda el navegador Chrome)

Nota: Usa una ventana de navegador privada o de Incógnito para ejecutar este lab. Así evitarás cualquier conflicto entre tu cuenta personal y la cuenta de estudiante, lo que podría generar cargos adicionales en tu cuenta personal.

• Tiempo para completar el lab: Recuerda que, una vez que comienzas un lab, no puedes pausarlo.

Nota: Si ya tienes un proyecto o una cuenta personal de Google Cloud, no los uses en este lab para evitar cargos adicionales en tu cuenta.

Cómo iniciar tu lab y acceder a la consola de Google Cloud

1. Haga clic en el botón Comenzar lab. Si debe pagar por el lab, se abrirá una ventana emergente para que seleccione su forma de pago. A la izquierda, se encuentra el panel Detalles del lab, que tiene estos elementos:

   • El botón Abrir la consola de Google Cloud
   • El tiempo restante
   • Las credenciales temporales que debe usar para el lab
   • Otra información para completar el lab, si es necesaria

2. Haz clic en Abrir la consola de Google Cloud (o haz clic con el botón derecho y selecciona Abrir el vínculo en una ventana de incógnito si ejecutas el navegador Chrome).

   El lab inicia recursos y abre otra pestaña en la que se muestra la página de acceso.

   Sugerencia: Ordene las pestañas en ventanas separadas, una junto a la otra.

   Nota: Si ves el diálogo Elegir una cuenta, haz clic en Usar otra cuenta.

3. De ser necesario, copia el nombre de usuario a continuación y pégalo en el diálogo Acceder.

   {{{user_0.username | "Username"}}}

   También puedes encontrar el nombre de usuario en el panel Detalles del lab.

4. Haz clic en Siguiente.

5. Copia la contraseña que aparece a continuación y pégala en el diálogo Te damos la bienvenida.

   {{{user_0.password | "Password"}}}

   También puedes encontrar la contraseña en el panel Detalles del lab.

6. Haz clic en Siguiente.

   Importante: Debes usar las credenciales que te proporciona el lab. No uses las credenciales de tu cuenta de Google Cloud. Nota: Usar tu propia Cuenta de Google podría generar cargos adicionales.

7. Haga clic para avanzar por las páginas siguientes:

   • Acepta los Términos y Condiciones.
   • No agregues opciones de recuperación o autenticación de dos factores (esta es una cuenta temporal).
   • No te registres para obtener pruebas gratuitas.

Después de un momento, se abrirá la consola de Google Cloud en esta pestaña.

Nota: Para ver un menú con una lista de productos y servicios de Google Cloud, haz clic en el menú de navegación que se encuentra en la parte superior izquierda.

Habilita las APIs

1. En la consola de Google Cloud, en Menú de navegación (), haz clic en Más productos y, desde la sección Inteligencia artificial, elige Vertex AI.
2. En el panel de Vertex AI, haz clic en Habilitar todas las APIs recomendadas.

Abre Vertex AI Workbench

1. En el Panel de Vertex AI, haz clic en Workbench en el panel izquierdo.

   Nota: Puede que tengas que aumentar el ancho de la ventana del navegador para ver el panel izquierdo.

2. Haz clic en la pestaña Notebooks administrados por el usuario.

Tarea 1. Búsqueda de respuestas con modelos generativos en Vertex AI

Te pidieron que crees una IU que permita a los clientes potenciales filtrar las ofertas de bienes raíces en función de sus respuestas.

1. En la pestaña Notebooks administrados por el usuario, haz clic en Abrir JupyterLab junto al nombre de tu notebook.

Una vez que se abre Vertex AI Workbench, observa los archivos en el panel izquierdo.

2. Navega y haz doble clic para abrir training-data-analyst/self-paced-labs/genai/housing_question_answering.ipynb.

housing_question_answering.ipynb está abierto y visible en el panel derecho.

3. Haz clic en Editar > Borrar todos los resultados

4. Lee con atención las instrucciones del notebook y ejecuta el código en cada celda.

Para ejecutar la celda actual, haz clic en ella y presiona MAYÚSCULAS + INTRO. Podrás encontrar detallados otros comandos de la celda en la IU del notebook, en Ejecutar.

Deja abierto tu entorno del notebook de Jupyter y continúa leyendo esta tarea. Vuelve al entorno del notebook en la Tarea 3.

Haz clic en Revisar mi progreso para verificar el objetivo.

Ejecutar las celdas del archivo housing_question_answering.ipynb

Valores del parámetro

Cada llamada que envías a un modelo incluye valores de parámetros que controlan cómo el modelo genera una respuesta. El modelo genera resultados diferentes para distintos valores de los parámetros. Para esta tarea, experimentarás con diferentes valores de los parámetros con el objetivo de obtener los mejores resultados para la tarea.

Los parámetros disponibles para los distintos modelos pueden variar, pero los más comunes son los siguientes:

• Temperatura
• Límite de tokens
• Top-K
• Top-P

Temperatura

La temperatura controla el grado de aleatorización en la elección de tokens, cuando se aplican Top-K y Top-P. Las temperaturas más bajas son buenas para las instrucciones que requieren una respuesta más determinística y menos abierta o creativa, mientras que las temperaturas más altas pueden generar resultados más diversos o creativos. Una temperatura de 0 es determinística, lo que significa que siempre se elige la respuesta de mayor probabilidad.

Para la mayoría de los casos de uso, intenta empezar con una temperatura de 0.2. Si el modelo muestra una respuesta demasiado genérica, demasiado corta o el modelo proporciona una respuesta de resguardo, intenta aumentar la temperatura.

Límite de tokens

El límite de tokens determina la cantidad máxima de salida de texto a partir de una instrucción. Un token tiene aproximadamente cuatro caracteres. El valor predeterminado es 256.

Especifica un valor más bajo para respuestas más cortas y un valor más alto para respuestas más largas.

Top-K

El parámetro Top-K cambia la manera en la que el modelo selecciona los tokens para el resultado. Un Top-K de 1 significa que el siguiente token seleccionado es el más probable entre todos los tokens en el vocabulario del modelo (también llamado decodificación codiciosa), mientras que un Top-K de 3 significa que el siguiente token se selecciona de los 3 tokens más probables (con la temperatura).

Para cada paso de elección de tokens, se muestran los tokens de Top-K con las probabilidades más altas. Luego, los tokens se filtran según el Top-P con el token final seleccionado a través del muestreo de temperatura.

Especifica un valor más bajo para respuestas menos aleatorias y un valor más alto para respuestas más aleatorias. El valor predeterminado de Top-K es 40.

Top-P

Top-P cambia la manera en la que el modelo selecciona los tokens para el resultado. Los tokens se eligen del más probable (consulta Top-K) al menos probable, hasta que la suma de sus probabilidades sea igual al valor de Top-P. Por ejemplo, si los tokens A, B y C tienen una probabilidad de 0.3, 0.2 y 0.1 y el valor Top-P es 0.5, el modelo elegirá A o B como el siguiente token usando la temperatura y excluirá a C como candidato.

Especifica un valor más bajo para respuestas menos aleatorias y un valor más alto para respuestas más aleatorias. El valor predeterminado Top-P es 0.80.

Tarea 2. Valores diferentes de los parámetros

Ya estás listo para experimentar con diferentes valores de los parámetros.

1. En la consola de Google Cloud, en el Menú de navegación (), elige Vertex AI en la sección Inteligencia Artificial.

2. En el panel Herramientas que se encuentra en el lado izquierdo, haz clic en Lenguaje en la sección Vertex AI Studio. Luego, haz clic en Instrucción de texto en la página Comenzar.

3. Escribe la siguiente instrucción:

Summarize the beginning of Harry Potter for me.

4. En el cuadro de sección Parámetros, selecciona modelo como gemini-1.0-pro-001 y cambia la temperatura de 0.9 a 1. Establece la región a us-central1. Haz clic en enviar. Asígnale un nombre a la instrucción y haz clic en Guardar. Lee la respuesta para ver cómo se ve afectada por los diferentes valores de temperatura.

5. En la sección Parámetros, cambia el límite de tokens de 2048 a 1,024. Haz clic en Enviar y Guardar. Lee la respuesta para ver cómo se ve afectada por los distintos límites de tokens.

6. En la sección Parámetros, haz clic en el botón de las opciones de activar y desactivar de Advanced para cambiar el valor Top-K a 1. Haz clic en Enviar y Guardar. Lee la respuesta para ver cómo los distintos valores de Top-K afectan la respuesta.

7. En la sección Parámetros, cambia el valor de Top-P a 1 y haz clic en Enviar y Guardar. Lee la respuesta para ver cómo influyen en ella los distintos valores de Top-P.

Haz clic en Revisar mi progreso para verificar el objetivo.

Cambiar los parámetros y guardar tu respuesta

Tarea 3. Resumen de textos con modelos generativos en Vertex AI

Extrae resúmenes internos de la información más importante para agilizar el proceso de búsqueda.

1. En tu notebook de JupyterLab, haz doble clic para abrir housing_text_summarization.ipynb en el panel izquierdo.

2. Haz clic en Editar > Borrar todos los resultados.

3. Lee con atención las instrucciones del notebook y ejecuta el código en cada celda.

Ejecutar las celdas del archivo housing_text_summarization.ipynb.

¡Felicitaciones!

Usaste la API de PaLM y AI Studio para crear y experimentar con instrucciones para varios casos de uso de IA generativa. También exploraste la IU de AI Studio y creaste instrucciones de texto y código con diferentes parámetros.

Próximos pasos y más información

• Para obtener más información sobre el diseño de instrucciones, lee la documentación oficial.

• Consulta los notebooks usados en este lab.

Capacitación y certificación de Google Cloud

Recibe la formación que necesitas para aprovechar al máximo las tecnologías de Google Cloud. Nuestras clases incluyen habilidades técnicas y recomendaciones para ayudarte a avanzar rápidamente y a seguir aprendiendo. Para que puedas realizar nuestros cursos cuando más te convenga, ofrecemos distintos tipos de capacitación de nivel básico a avanzado: a pedido, presenciales y virtuales. Las certificaciones te ayudan a validar y demostrar tus habilidades y tu conocimiento técnico respecto a las tecnologías de Google Cloud.

Última actualización del manual: 5 de marzo de 2024

Prueba más reciente del lab: 5 de marzo de 2024

Copyright 2024 Google LLC. All rights reserved. Google y el logotipo de Google son marcas de Google LLC. Los demás nombres de productos y empresas pueden ser marcas de las respectivas empresas a las que estén asociados.