Datos, machine learning y deep learning
Curso de fine-tuning de modelos de lenguaje
Adapta un modelo de lenguaje a tu dominio, tu tono o tu tarea, con criterio y método.
El ajuste fino (fine-tuning) permite adaptar un modelo de lenguaje a una tarea, un dominio o un estilo concretos. Bien aplicado, consigue modelos más pequeños, rápidos y baratos que igualan a los grandes en esa tarea. Mal aplicado, es una forma cara de empeorar un modelo.
Por eso este curso empieza por la pregunta clave: cuándo compensa ajustar y cuándo basta con un buen prompt o un sistema RAG. Después recorremos el proceso completo con modelos abiertos: datos de calidad, LoRA y QLoRA, ajuste con preferencias, evaluación rigurosa y despliegue.
Qué aprenderás
- Decidir cuándo el ajuste fino es mejor que el prompting o el RAG
- Preparar conjuntos de datos de instrucciones de calidad
- Ajustar modelos abiertos con LoRA y QLoRA
- Conocer el ajuste con preferencias (DPO)
- Evaluar y desplegar el modelo ajustado
Temario
8 módulos, de los fundamentos al proyecto final.
-
Cuándo ajustar un modelo
- Prompting, RAG y fine-tuning comparados
- Casos en los que compensa
- Coste y mantenimiento
-
Datos
- Formatos de instrucciones y conversaciones
- Calidad, diversidad y tamaño del conjunto
- Datos sintéticos generados con modelos
-
Fundamentos del ajuste
- Ajuste completo frente a eficiente
- Tokenizadores y plantillas de chat
-
LoRA y QLoRA
- Adaptadores de bajo rango
- Cuantización en 4 bits para entrenar con menos memoria
- Hiperparámetros clave
-
Ajuste con preferencias
- De RLHF a DPO
- Cuándo usarlo
-
Ajuste en servicios gestionados
- Fine-tuning en las plataformas de los proveedores
- Ventajas e inconvenientes
-
Evaluación
- Comparación con el modelo base
- Olvido catastrófico y regresiones
-
Despliegue
- Fusionar adaptadores y cuantizar
- Servir el modelo con vLLM u Ollama
Herramientas con las que practicarás
- Python
- PyTorch
- Hugging Face Transformers, PEFT y TRL
- Unsloth
- vLLM
Proyecto práctico
Ajustas un modelo abierto pequeño para una tarea concreta (por ejemplo, clasificar solicitudes con las categorías de tu empresa o redactar con un estilo determinado), lo evalúas frente al modelo base y frente a un buen prompt, y lo sirves en local.
Requisitos
- Python y conocimientos de deep learning (recomendable el curso de deep learning con PyTorch).
- Acceso a GPU (se facilitan alternativas en la nube).
Otros cursos
-
Curso de deep learning con PyTorch
Entiende y construye redes neuronales modernas, de los tensores a los transformers.
- Duración: 30 horas
- Nivel: Avanzado
-
Curso de IA aplicada a análisis de datos (sin data science)
Obtén conclusiones de tus datos con IA, aunque no seas data scientist.
- Duración: 8 horas
- Nivel: Inicial
-
Curso de machine learning con Python
Modelos predictivos de verdad, desde los datos hasta la evaluación y la interpretación.
- Duración: 24 horas
- Nivel: Intermedio
¿Quieres este curso para tu equipo?
Adaptamos el contenido, la duración y la modalidad a tu empresa.