El ajuste de prompts es una técnica en el aprendizaje automático en la que se aprende y se añade un pequeño conjunto de entradas entrenables, denominadas tokens de prompt, a la entrada de un modelo de lenguaje grande (LLM). Estos tokens guían al modelo para que realice una tarea específica sin cambiar ninguno de los pesos reales del modelo.
A diferencia del ajuste fino tradicional, que actualiza todo el modelo, el ajuste de prompts mantiene el modelo base congelado. Solo se entrenan los vectores de prompt añadidos. Estos prompts no son texto, sino incrustaciones, representaciones numéricas que el modelo puede entender.
Este método permite personalizar los modelos para nuevas tareas de forma ligera y eficiente, utilizando menos recursos y requiriendo menos tiempo de entrenamiento.
¿Por qué es importante el ajuste de prompts?
A medida que las empresas dependen cada vez más de los modelos de lenguaje grandes, se enfrentan al reto de adaptar estos modelos de propósito general a aplicaciones específicas, como la atención al cliente, el análisis médico y la generación de contenido.
El ajuste de prompts proporciona una solución práctica. En lugar de volver a entrenar o ajustar modelos enormes como GPT, T5 o BERT, las empresas pueden utilizar el ajuste de prompts para ajustar el comportamiento del modelo utilizando prompts compactos y específicos para cada tarea.
Esto tiene claras ventajas:
- Menores costes computacionales
- Adaptación más rápida a nuevos casos de uso
- Fácil implementación de múltiples versiones específicas para cada tarea sin duplicar modelos enteros
El ajuste de prompts apoya la ampliación de la IA en todas las industrias, facilitando y abaratando la adaptación de los modelos pre-entrenados a las tareas del mundo real.
¿Cómo funciona el ajuste de prompts?
El ajuste de prompts funciona anteponiendo una serie de tokens entrenables, conocidos como incrustaciones de prompt, a la entrada original del modelo. Estos tokens actúan como instrucciones, dando forma a la forma en que el modelo responde.
Los pasos principales son:
- Seleccionar un modelo pre-entrenado: Un modelo de transformador como GPT-3, T5 o BERT.
- Inicializar incrustaciones de prompt: Crear un conjunto de vectores ajustables, normalmente de 5 a 100 de tamaño.
- Anteponer estos tokens a la entrada: Durante el entrenamiento y la inferencia, los tokens de prompt se colocan antes de la entrada real del usuario.
- Entrenar solo los tokens de prompt: El modelo permanece congelado. Solo los tokens de prompt añadidos se optimizan para la tarea.
Debido a que estos tokens existen en el espacio de incrustación, no como texto legible, a veces se les llama «prompts blandos», en contraste con los «prompts duros», que están escritos en lenguaje sencillo.
Tipos de ajuste de prompts
1. Ajuste de prompts blandos
Este es el tipo más común. Utiliza vectores continuos (incrustaciones) como prompts. Estos prompts se optimizan durante el entrenamiento y no son interpretables en lenguaje natural.
Los prompts blandos son eficientes, compactos y específicos para cada tarea. Funcionan bien en tareas como la clasificación, la síntesis o las preguntas y respuestas.
2. Ajuste de prompts duros
Implica la elaboración de prompts textuales de forma manual o automática. Estos prompts están escritos en lenguaje natural (por ejemplo, «Traduzca esta frase al francés:») y no son entrenables.
Aunque son más sencillos, los prompts desafiantes pueden no igualar el rendimiento del ajuste de prompts blandos en tareas complejas.
3. Ajuste de prefijos
Una variante en la que se inserta una secuencia más extensa de tokens entrenables en el mecanismo de atención del transformador, en lugar de a nivel de entrada. Este método puede dar al modelo un control más expresivo.
El ajuste de prefijos se utiliza a menudo en tareas que implican la generación, como la escritura de historias o el modelado de diálogos.
Bibliotecas y herramientas populares que admiten el ajuste de prompts
Varios marcos de código abierto proporcionan capacidades de ajuste de prompts para desarrolladores e investigadores:
1. Biblioteca PEFT de Hugging Face
La biblioteca PEFT (Parameter-Efficient Fine-Tuning) permite el ajuste de prompts con modelos como T5, GPT-2 y BERT. Abstrae el entrenamiento de incrustaciones de prompt, facilitando su integración en los pipelines.
2. OpenPrompt
Una biblioteca de código abierto que admite el ajuste de prompts, los prompts desafiantes y los enfoques híbridos. Ofrece componentes modulares para diseñar y evaluar métodos basados en prompts.
3. Transformers
Aunque se utiliza principalmente para el ajuste fino y la inferencia, esta biblioteca puede ampliarse para admitir prompts blandos utilizando adaptadores o el plugin PEFT.
4. PromptSource
Una herramienta de gestión de conjuntos de datos y plantillas que admite la ingeniería de prompts compleja y la estandarización de tareas. Útil para los investigadores que construyen extensas colecciones de prompts.
Puntos fuertes del ajuste de prompts
1. Eficiencia de los parámetros
El ajuste de prompts solo actualiza un pequeño número de parámetros (tokens de prompt), manteniendo el resto del modelo congelado. Esto es ideal cuando los recursos de computación y almacenamiento son limitados.
2. Entrenamiento rápido
Entrenar solo los tokens de prompt es mucho más rápido que volver a entrenar millones o miles de millones de pesos del modelo.
3. Diseño modular
Puede mantener un modelo base e intercambiar diferentes incrustaciones de prompt para diferentes tareas. Esto hace que la implementación sea eficiente en memoria y sencilla.
4. Reutilización
El ajuste de prompts permite a las organizaciones reutilizar el mismo modelo base en todos los proyectos, con cada caso de uso soportado por su prompt compacto.
5. Privacidad y seguridad
Dado que el modelo base no se modifica, los datos de entrenamiento privados permanecen dentro del módulo de prompt. Esto reduce el riesgo de exponer información sensible.
Limitaciones y desafíos
1. Interpretabilidad
Los tokens de prompt son vectores abstractos y no legibles por humanos. Esto dificulta la comprensión o la explicación de lo que están haciendo dentro del modelo.
2. Especificidad de la tarea
Cada tarea necesita su incrustación de prompt. El ajuste de prompts no se generaliza bien entre tareas a menos que se vuelva a entrenar.
3. Limitado para modelos pequeños
El ajuste de prompts funciona mejor con modelos grandes pre-entrenados. En modelos más pequeños, el ajuste fino completo puede superar a los métodos basados en prompts.
4. Complejidad de la depuración
Los errores o el bajo rendimiento en los sistemas ajustados con prompts pueden ser difíciles de rastrear, ya que los prompts no ofrecen una interpretabilidad clara ni mensajes de error.
5. Sensibilidad de los hiperparámetros
La elección del número de tokens de prompt, la tasa de aprendizaje y los pasos de entrenamiento requiere un ajuste cuidadoso. Una configuración deficiente puede conducir a un bajo rendimiento.
Ajuste de prompts en la industria
El ajuste de prompts se utiliza cada vez más en sectores donde la personalización, la velocidad y la rentabilidad son cruciales.
Atención médica
Los hospitales utilizan el ajuste de prompts para adaptar los modelos de lenguaje a la generación de notas médicas, la clasificación de síntomas y la síntesis clínica, sin necesidad de volver a entrenar modelos grandes.
Finanzas
Los bancos utilizan el ajuste de prompts para modelos específicos de tareas, como la detección de fraudes, la gestión de consultas de clientes y la clasificación de sentimientos, todo ello sin modificar los pesos originales del modelo.
Tecnología jurídica
El ajuste de prompts ayuda a las empresas jurídicas a construir sistemas de IA para la clasificación de contratos o la síntesis de documentos jurídicos utilizando solo unos pocos miles de ejemplos.
Venta al por menor y comercio electrónico
Los minoristas crean modelos ajustados con prompts para recomendaciones de productos, análisis de inventario o automatización de la atención al cliente, con diferentes tokens de prompt para cada departamento o servicio.
Educación
Las empresas de EdTech entrenan incrustaciones de prompt para personalizar el contenido educativo, las evaluaciones o el comportamiento de la tutoría en aplicaciones impulsadas por LLM.
Comparación con otros métodos de eficiencia de parámetros
| Método | ¿Modelo base congelado? | Parámetros entrenados | Lo mejor para |
| Ajuste de prompts | Sí | Muy pocos (tokens de prompt) | Adaptación rápida y ligera |
| LoRA | Sí | Matrices de bajo rango en capas clave | Ajuste fino más expresivo |
| Ajuste de adaptadores | Mayormente | Capas intermedias añadidas | Entrenamiento modular |
| Ajuste fino completo | No | Todos los parámetros | Máximo control y precisión |
El ajuste de prompts es el método más ligero en términos de memoria y computación. Intercambia algo de rendimiento por velocidad y simplicidad.
Ajuste de prompts para tareas multilingües y multimodales
El ajuste de prompts puede ampliarse para admitir idiomas y modalidades más allá del inglés:
Ajuste de prompts multilingüe
Las incrustaciones de prompt pueden entrenarse para ayudar a los modelos a cambiar entre idiomas o a centrarse en un dominio lingüístico específico. Estas incrustaciones a menudo capturan patrones específicos del idioma que guían la generación o la clasificación.
Ajuste de prompts multimodal
En los modelos de visión-lenguaje, el ajuste de prompts puede guiar al modelo sobre cómo interpretar imágenes, subtítulos o entradas mixtas. Por ejemplo, en la subtitulación de imágenes, un prompt puede centrar el modelo en objetos, emociones o acciones.
Ajuste de prompts y direcciones futuras
El ajuste de prompts representa un cambio hacia la IA ligera y modular. A medida que los modelos crecen en tamaño, el ajuste fino completo se vuelve menos práctico. El ajuste de prompts es parte de una tendencia más amplia en el ajuste fino eficiente en parámetros (PEFT) destinado a resolver esto.
Los desarrollos futuros pueden incluir:
- Ajuste de prompts dinámico: Ajuste automático de los prompts durante la inferencia en función del contexto o de los comentarios del usuario.
- Ajuste de meta prompts: Entrenamiento de prompts que pueden generalizarse entre tareas aprendiendo patrones de tareas abstractos.
- Diseño de prompts interactivo: Combinación de prompts duros y blandos en herramientas orientadas al usuario para la explicabilidad.
- Ajuste híbrido: Uso del ajuste de prompts junto con LoRA o adaptadores para mejorar el rendimiento y la flexibilidad.
A medida que los LLM se integran en productos, servicios e interfaces, el ajuste de prompts desempeñará un papel clave para garantizar que sigan siendo adaptables y eficientes.
El ajuste de prompts es un método potente y eficiente para personalizar modelos de lenguaje grandes sin volver a entrenar todo el modelo. Mediante el aprendizaje y la anteposición de tokens de prompt específicos de la tarea, los sistemas pueden adaptarse a nuevas tareas de forma rápida, barata y con una computación mínima.
Sus puntos fuertes en modularidad, velocidad y reutilización hacen del ajuste de prompts una opción práctica para las empresas y los desarrolladores que implementan la IA a escala. Aunque no siempre iguale el ajuste fino completo en precisión, ofrece un camino claro hacia la adaptación de modelos escalable y rentable.
Con la investigación en curso y el creciente apoyo de la industria, el ajuste de prompts está destinado a convertirse en una técnica estándar para la IA específica de tareas.
