Introducción al Studio de IA Generativa

Contenido

• Introducción al Studio de IA Generativa
• ¿Qué es la IA Generativa?
• Cómo la IA Genera nuevo contenido
• Cómo utilizar el modelo base para alimentar tus aplicaciones
• Herramientas proporcionadas por Google Cloud para utilizar la IA Generativa
• ¿Qué puedes hacer con el lenguaje en el Studio de IA Generativa?
• Diseño de instrucciones y tareas relevantes para tu caso de uso
• Creación de conversaciones específicas
• Ajuste de un modelo para adaptarlo a tus necesidades
• Mejora de la calidad de las respuestas mediante la configuración de los parámetros del modelo
• Creación de conversaciones
• Explorando la galería de instrucciones
• Tuning de un modelo de lenguaje
• Implementar y probar el modelo de lenguaje ajustado
• Próxima etapa: laboratorio práctico

Introducción al Studio de IA Generativa

En el curso de Introducción al Studio de IA Generativa, aprenderás sobre Generative AI Studio y sus opciones de uso. También verás una demostración de la herramienta de lenguaje del Studio de IA Generativa.

📚🔬 ¿Qué es la IA Generativa?

La IA Generativa es un tipo de inteligencia artificial que genera contenido automáticamente. Este contenido puede ser multimodal, incluyendo texto, imágenes, audio y video. La IA Generativa puede ayudarte a realizar diversas tareas, como resumen de documentos, extracción de información, generación de código, creación de campañas de marketing, asistencia virtual y atención al cliente en centros de llamadas. Y estos son solo algunos ejemplos.

¿Cómo genera la IA nueva contenido?

La IA Generativa aprende a partir de una gran cantidad de contenido existente, que incluye texto, audio y video. Este proceso de aprendizaje a partir de contenido existente se denomina entrenamiento y da como resultado la creación de un "modelo base". Un LLM (Large Language Model), que impulsa a los chatbots como Bard, es un ejemplo tíPico de un modelo base. El modelo base se puede utilizar para generar contenido y resolver problemas generales, como extracción de contenido y resumen de documentos. También se puede entrenar aún más con nuevos conjuntos de datos específicos de tu campo para resolver problemas específicos, como la generación de modelos financieros y consultoría en el campo de la salud. Esto da como resultado la creación de un nuevo modelo adaptado a tus necesidades específicas.

¿Cómo puedes utilizar el modelo base para impulsar tus aplicaciones?

Google Cloud proporciona varias herramientas fáciles de usar que te ayudan a utilizar la IA generativa en tus proyectos, ya sea que tengas o no experiencia en IA y aprendizaje automático. Una de estas herramientas es Vertex AI, una plataforma de desarrollo de aprendizaje automático de extremo a extremo en Google Cloud que te ayuda a construir, implementar y administrar modelos de aprendizaje automático. Con Vertex AI, si eres un desarrollador de aplicaciones o científico de datos y deseas construir una aplicación, puedes usar Generative AI Studio para prototipar rápidamente y personalizar modelos de IA generativa sin necesidad de código o con un código mínimo. Si eres un científico de datos o desarrollador de aprendizaje automático que quiere construir y automatizar un modelo de IA generativa, puedes comenzar con Model Garden. Model Garden te permite descubrir e interactuar con modelos de código abierto de base y de terceros de Google, y cuenta con herramientas incorporadas de MLOps para automatizar el pipeline de aprendizaje automático. En este curso te enfocarás en el Studio de IA Generativa.

🖋️ Qué puedes hacer con el lenguaje en el Studio de IA Generativa

Específicamente, puedes:

• Diseñar instrucciones para tareas relevantes para tu caso de uso, incluida la generación de código.
• Crear conversaciones especificando el contexto que instruye cómo el modelo debe responder.
• Ajustar un modelo para que esté mejor equipado para tu caso de uso, lo que te permite implementarlo en un punto final para obtener predicciones o probarlo en el diseño de instrucciones.

Veamos estos tres aspectos en detalle.

📝 Diseño de instrucciones

Para comenzar a experimentar con los modelos de lenguaje, puedes hacer clic en NUEVA INSTRUCCIÓN. En el mundo de la IA Generativa, una instrucción es simplemente un nombre llamativo para el texto de entrada que alimentas a tu modelo. Puedes proporcionar a tu modelo el texto de entrada deseado, como preguntas e instrucciones, y el modelo te proporcionará una respuesta en función de cómo hayas estructurado tu instrucción. Por lo tanto, las respuestas que obtienes dependen de las preguntas que hagas y de cómo hayas estructurado tu instrucción. El proceso de descubrir y diseñar el mejor texto de entrada para obtener la respuesta deseada del modelo se llama diseño de instrucciones, que a menudo implica mucha experimentación. Una forma de diseñar una instrucción es simplemente decirle al modelo lo que deseas. En otras palabras, proporciona una instrucción. Por ejemplo, genera una lista de elementos que necesito para un viaje de campamento al Parque Nacional Joshua Tree. Enviamos este texto al modelo y puedes ver cómo el modelo produce una lista útil de elementos sin los cuales no queremos acampar. Este enfoque de escribir un comando único para que el LLM adopte un determinado comportamiento se llama "zero-shot prompting".

En general, existen tres métodos que puedes utilizar para ajustar la respuesta del modelo de la forma que desees:

1. Zero-shot prompting: es un método en el que se le proporciona al LLM ninguna información adicional sobre la tarea específica que se le pide realizar. En cambio, solo se le da una instrucción que describe la tarea. Por ejemplo, si deseas que el LLM responda una pregunta, solo debes escribir la instrucción "¿qué es el diseño de instrucciones?".
2. One-shot prompting: es un método en el que se le proporciona al LLM un solo ejemplo de la tarea que se le pide realizar. Por ejemplo, si deseas que el LLM escriba un poema, puedes proporcionar un solo poema de ejemplo.
3. Few-shot prompting: es un método en el que se le proporciona al LLM un pequeño número de ejemplos de la tarea que se le pide realizar. Por ejemplo, si deseas que el LLM escriba un artículo de noticias, puedes proporcionarle algunos artículos de noticias para leer.

También puedes utilizar el modo estructurado para diseñar el few-shot prompting proporcionando un contexto y ejemplos adicionales para que el modelo aprenda. El prompt estructurado contiene varios componentes diferentes, como el contexto que instruye cómo el modelo debe responder. Puedes especificar las palabras que el modelo puede o no puede usar, los temas en los que debe o no debe centrarse, o el formato de respuesta deseado. El contexto se aplica cada vez que envías una solicitud al modelo. Por ejemplo, si deseas que se use un LLM para responder preguntas basadas en un texto de referencia, puedes pegar el texto de referencia como contexto. Luego, agregas algunas preguntas que podrían responderse utilizando este texto de referencia, como "¿Qué significa LLM?" o "¿Qué indicó el análisis de los depósitos de sedimentación?". Luego, agrega las respuestas correspondientes a estas preguntas para demostrar cómo quieres que el modelo responda. Luego, puedes probar la instrucción que has diseñado enviando una nueva pregunta como entrada.

Es importante tener en cuenta algunas mejores prácticas en el diseño de instrucciones:

• Sé conciso y específico
• Haz una tarea a la vez
• Transforma tareas generativas en tareas de clasificación
• Mejora la calidad de las respuestas incluyendo ejemplos

Recuerda que no existe una única mejor manera de escribir un diseño de instrucción y es posible que necesites experimentar con diferentes estructuras, formatos y ejemplos para ver qué funciona mejor para tu caso de uso. Para obtener más información sobre el diseño de instrucciones, consulta la documentación de Generative AI Studio.

Si has diseñado una instrucción que crees que funciona bastante bien, puedes guardarla y volver a ella más tarde. Tus instrucciones guardadas estarán visibles en la galería de instrucciones, que es una colección curada de instrucciones de muestra que muestran cómo pueden funcionar los modelos de IA generativos para una variedad de casos de uso.

🔍 Explorando la galería de instrucciones

Además de probar diferentes instrucciones y estructuras de instrucciones, también puedes experimentar con otros parámetros del modelo para mejorar la calidad de las respuestas. Por ejemplo, puedes elegir diferentes modelos, especificar la temperatura, top P y top K. Estos parámetros ajustan la aleatoriedad de las respuestas controlando cómo se seleccionan los tokens de salida. Al enviar una solicitud al modelo, este produce una matriz de probabilidades sobre las palabras que podrían venir a continuación. A partir de esta matriz, necesitamos una estrategia para decidir qué retorno. Una estrategia simple puede ser seleccionar la palabra más probable en cada paso. Sin embargo, este método puede generar respuestas poco interesantes y a veces repetitivas. Por el contrario, si muestreas al azar sobre la distribución devuelta por el modelo, podrías obtener respuestas improbables. Al controlar el grado de aleatoriedad, puedes obtener respuestas más inesperadas y creativas.

En cuanto a los parámetros del modelo, la temperatura es un número que se utiliza para ajustar el grado de aleatoriedad. Una temperatura baja significa seleccionar las palabras que son altamente posibles y más predecibles. En este caso, esas serían las palabras relacionadas con flores y las otras palabras que se encuentran al comienzo de la lista. Esta configuración es generalmente mejor para tareas como preguntas y respuestas y resúmenes, donde esperas una respuesta más "predecible" con menos variación. Una temperatura alta significa seleccionar las palabras que tienen baja posibilidad y que son más inusuales. En este caso, se trataría de errores y otras palabras que se encuentran al final de la lista. Esta configuración es buena si quieres generar contenido más "creativo" o inesperado.

Además de ajustar la temperatura, top K permite que el modelo devuelva al azar una palabra de entre las K palabras principales en términos de posibilidad. Por ejemplo, top 2 significa que obtendrás una palabra al azar entre las 2 palabras posibles, lo que incluye flores y árboles. Este enfoque permite que la otra palabra con una puntuación Alta tenga la posibilidad de ser seleccionada. Sin embargo, si la distribución de probabilidades de las palabras está muy sesgada y tienes una palabra que es muy probable y todo lo demás es muy improbable, este enfoque puede generar algunas respuestas extrañas. Para resolver este problema, se utiliza otro enfoque popular que ajusta dinámicamente el tamaño de la lista corta de palabras. Top P permite que el modelo devuelva al azar una palabra del top P de las palabras con una probabilidad. Con top P, eliges un conjunto de palabras con una suma de las probabilidades que no supera P. Por ejemplo, un P de 0.75 significa que muestreas un conjunto de palabras que tienen una probabilidad acumulada mayor que 0.75. En este caso, incluiría tres palabras: flores, árboles y hierbas. De esta manera, el tamaño del conjunto de palabras puede aumentar y disminuir dinámicamente según la distribución de probabilidades de la siguiente palabra en la lista.

En resumen, Generative AI Studio te proporciona algunos parámetros del modelo para que juegues con ellos, como el modelo, la temperatura, top K y top P. Pero recuerda que no es necesario ajustarlos constantemente, especialmente top K y top P, ya que a veces es mejor dejar que el modelo Tome decisiones más aleatorias. Ahora veamos la siguiente característica del Studio de IA Generativa.

✨ Creación de conversaciones

La segunda característica del Studio de IA Generativa es la capacidad de crear conversaciones. Primero, debes especificar el contexto de la conversación, que instruye cómo el modelo debe responder. Por ejemplo, puedes especificar las palabras que el modelo puede o no puede usar, los temas a los que se debe o no se debe enfocar o el formato de respuesta deseado. El contexto se aplica cada vez que envías una solicitud al modelo. Por ejemplo, puedes definir un escenario en el que tu nombre es Roy y eres un técnico de soporte de un departamento de TI. Tu única respuesta a cualquier consulta es "¿Has intentado apagarlo y encenderlo de nuevo?". Puedes ajustar los parámetros en el panel de la derecha de la misma manera que lo haces al diseñar instrucciones. Para ver cómo funciona, puedes escribir "Mi computadora está lenta" en el cuadro de chat y presionar enter. La IA responderá: "¿Has intentado apagarlo y encenderlo de nuevo?", tal como le indicaste a la IA que hiciera. Lo interesante es que Google proporciona las API y los SDK para ayudarte a construir tu propia aplicación. Puedes simplemente hacer clic en "Ver código" y seguir las pautas y el código de ejemplo para implementarlo en tu aplicación.

🧰 Sintonización de un modelo de lenguaje

Si has estado experimentando con modelos de lenguaje, es posible que te estés preguntando si hay alguna forma de mejorar la calidad de las respuestas más allá del diseño de instrucciones. A continuación, aprenderemos cómo ajustar un modelo de lenguaje grande y cómo lanzar un proceso de ajuste desde el Studio de IA Generativa.

En resumen, el diseño de instrucciones te permite experimentar y personalizar rápidamente los modelos de IA generativa para adaptarlos a tus necesidades. Sin embargo, puede ser complicado producir instrucciones efectivas. Pequeños cambios en la redacción o el orden de las palabras pueden afectar los resultados del modelo de formas que no son totalmente predecibles. Además, no puedes incluir demasiados ejemplos en una sola instrucción. Incluso cuando descubres una buena instrucción para tu caso de uso, es posible que notes que la calidad de las respuestas del modelo no es totalmente consistente. Una forma de solucionar estos problemas es ajustar el modelo.

Así que, ¿qué es el ajuste de un modelo? Uno de los métodos más comunes es el ajuste fino. En este escenario, se Toma un modelo que se preentrenó con un conjunto de datos genérico, se crea una copia de este modelo y, utilizando los pesos aprendidos como punto de partida, se vuelve a entrenar el modelo en un nuevo conjunto de datos específicos del dominio. Esta técnica ha sido bastante efectiva para muchos casos de uso diferentes. Sin embargo, al intentar ajustar modelos de lenguaje grandes, nos enfrentamos a algunos desafíos. Estos modelos, como su nombre indica, son grandes. Por lo tanto, actualizar cada peso puede llevar mucho tiempo. Y, además de eso, también es costoso y complicado implementar este modelo gigante. Como resultado, el ajuste fino de un modelo de lenguaje grande puede no ser la mejor opción para ti.

Pero hay un enfoque innovador para el ajuste llamado "ajuste de parámetros eficientes". Esta es un área de investigación realmente emocionante que tiene como objetivo reducir los desafíos del ajuste fino de los modelos generativos de lenguaje al entrenar solo un subconjunto de parámetros. Estos parámetros pueden ser un subconjunto de los parámetros existentes del modelo o un conjunto completamente nuevo de parámetros. Por ejemplo, puedes agregar algunas capas adicionales al modelo o una incrustación adicional a la instrucción. Si deseas obtener más información sobre la sintonización de parámetros eficientes y algunos de los diferentes métodos, puedes consultar el resumen incluido en la lista de lectura de este curso.

Pero si solo quieres construir, entonces vamos a ir al Studio de IA Generativa y ver cómo iniciar un proceso de ajuste. Desde la sección del lenguaje del Studio de IA Generativa, selecciona AJUSTE. Para crear un modelo ajustado, proporcionamos un nombre y luego especificamos la ubicación local o de Google Cloud Storage de tus datos de entrenamiento. El ajuste de parámetros eficientes es ideal para escenarios en los que tienes cantidades "modestas" de datos de entrenamiento, digamos cientos o tal vez miles de ejemplos de entrenamiento. Tu conjunto de datos de entrenamiento debe estar estructurado como un conjunto de entrenamiento supervisado en un formato de texto a texto. Cada registro o fila en los datos contendrá el texto de entrada, es decir, la instrucción, seguido de la salida esperada del modelo. Esto significa que el modelo se puede ajustar para una tarea que se puede modelar como un problema de texto a texto. Después de especificar la ubicación de tu conjunto de datos, puedes iniciar el proceso de ajuste y monitorear el estado en la consola de Google Cloud. Cuando se complete el proceso de ajuste, verás el modelo ajustado en el Registro de modelos de Vertex AI y podrás implementarlo en un punto final para servirlo o probarlo en el Studio de IA Generativa.

En este curso, aprendiste qué es Generative AI y las herramientas proporcionadas por Google Cloud para potenciar tu proyecto con capacidades de IA generativa. Específicamente, te enfocaste en el Studio de IA Generativa, donde puedes usar la IA generativa en tu aplicación prototipando y personalizando rápidamente modelos de IA generativa. Aprendiste que el Studio de IA Generativa admite tres opciones: lenguaje, visión y habla. Luego, recorriste las tres características principales del lenguaje: diseño y prueba de instrucciones, creación de conversaciones y ajuste de modelos.

¡Este fue un breve curso introductorio sobre el Studio de IA Generativa en Vertex AI! Para obtener más información sobre el procesamiento del lenguaje natural y los diferentes tipos de modelos de lenguaje, como decodificador-encoder, transformer y LLM, consulta el curso titulado "Procesamiento del Lenguaje Natural en Google Cloud" que se encuentra en la lista de lectura. Ahora es el momento de jugar con el Studio de IA Generativa en un laboratorio práctico, donde podrás diseñar y probar instrucciones en modo de solicitud libre y estructurado, crear conversaciones y explorar la galería de instrucciones. Al final de este laboratorio, podrás utilizar las capacidades del Studio de IA Generativa que hemos discutido en este curso. ¡Diviértete explorando!