Desarrollo con IA
Curso de modelos de IA abiertos y en local
IA generativa en tu propia infraestructura, sin que los datos salgan de la empresa.
No todas las empresas pueden o quieren enviar sus datos a un proveedor externo. Los modelos de IA abiertos permiten ejecutar IA generativa en servidores propios, con control total sobre la información, y su calidad no ha dejado de mejorar.
En este curso aprenderás a elegir el modelo adecuado para cada caso, a dimensionar el hardware, a entender la cuantización y a ejecutar y servir modelos con Ollama, llama.cpp o vLLM. Terminamos comparando con datos su calidad y su coste frente a un modelo comercial, para decidir con criterio.
Qué aprenderás
- Conocer el ecosistema de modelos abiertos y sus licencias
- Elegir el modelo y el hardware adecuados para cada caso
- Ejecutar modelos en local y servirlos a un equipo
- Comparar su calidad y coste con los modelos comerciales
- Desplegarlos con seguridad
Temario
7 módulos, de los fundamentos al proyecto final.
-
Por qué modelos abiertos
- Privacidad, soberanía de los datos y coste
- Modelos abiertos frente a APIs comerciales
- Familias de modelos y licencias de uso
-
Elegir modelo
- Tamaño, contexto, idiomas y tareas
- Clasificaciones y pruebas propias
-
Hardware
- CPU, GPU y memoria necesaria
- Cuantización y su efecto en la calidad
- Estimar el coste de una instalación
-
Ejecutar en local
- Ollama y LM Studio
- llama.cpp y formatos de modelo
-
Servir a un equipo
- vLLM y APIs compatibles
- Interfaz de chat interna
- Concurrencia y rendimiento
-
Aplicaciones
- RAG con modelos locales
- Embeddings locales
- Uso de herramientas
-
Seguridad y operación
- Control de acceso y registros
- Actualizaciones de modelos
Herramientas con las que practicarás
- Ollama
- LM Studio
- llama.cpp
- vLLM
- Open WebUI
- Hugging Face
Proyecto práctico
Despliegas un modelo abierto en un servidor o en tu equipo, lo sirves con una API compatible, lo conectas a una interfaz de chat y comparas su calidad, velocidad y coste con un modelo comercial en tareas de tu empresa.
Requisitos
- Manejo de la línea de comandos.
- Nociones de Docker recomendables.
Otros cursos
-
Curso de desarrollo de aplicaciones con LLMs
De la llamada a la API a una aplicación de IA generativa lista para producción.
- Duración: 20 horas
- Nivel: Intermedio
-
Curso de evaluación de sistemas de IA generativa
Mide la calidad de tu aplicación de IA con datos, no con impresiones.
- Duración: 12 horas
- Nivel: Avanzado
-
Curso de IA en apps y productos digitales
Funciones de IA que los usuarios entienden, usan y en las que confían.
- Duración: 12 horas
- Nivel: Intermedio
¿Quieres este curso para tu equipo?
Adaptamos el contenido, la duración y la modalidad a tu empresa.