Gobernanza, cumplimiento y seguridad
Curso de seguridad en GenAI: OWASP, riesgos y mitigaciones prácticas
Protege tus aplicaciones de IA frente a ataques y fugas de información.
Las aplicaciones con modelos de lenguaje tienen una superficie de ataque nueva: un documento, una web o un correo pueden contener instrucciones ocultas que el modelo obedece, y un agente con demasiados permisos puede hacer mucho daño. Los controles de seguridad clásicos no bastan.
Este curso recorre las amenazas del OWASP Top 10 para aplicaciones con LLMs con ejemplos reales y un laboratorio de ataque y defensa: inyección de instrucciones, fuga de datos, debilidades de RAG, agencia excesiva, cadena de suministro y consumo sin límites. Terminamos con red teaming y gobierno de la seguridad.
Qué aprenderás
- Conocer las amenazas específicas de las aplicaciones con LLMs
- Aplicar el OWASP Top 10 para aplicaciones con LLMs
- Diseñar defensas en capas frente a la inyección de instrucciones
- Proteger los datos, los agentes y la cadena de suministro
- Hacer pruebas de red teaming a una aplicación de IA
Temario
8 módulos, de los fundamentos al proyecto final.
-
El nuevo perímetro
- Por qué la IA generativa abre riesgos nuevos
- Modelo de amenazas de una aplicación con LLM
-
Inyección de instrucciones
- Directa e indirecta (a través de documentos y webs)
- Fuga de las instrucciones del sistema
- Defensas en capas
-
Datos
- Divulgación de información sensible
- Debilidades de los embeddings y las bases vectoriales en RAG
- Envenenamiento de datos y de modelos
-
Salidas y acciones
- Tratamiento inseguro de las salidas
- Agencia excesiva de agentes y herramientas
- Mínimo privilegio y aprobaciones
-
Cadena de suministro
- Modelos, librerías y servidores MCP de terceros
- Verificación y procedencia
-
Disponibilidad y abuso
- Consumo sin límites y costes
- Desinformación y contenido dañino
-
Red teaming
- Planificar pruebas adversarias
- Herramientas de pruebas automatizadas
- Laboratorio: atacar y defender una aplicación
-
Gobierno de la seguridad
- Políticas, registros y respuesta a incidentes
- Requisitos de ciberseguridad del AI Act
Herramientas con las que practicarás
- OWASP Top 10 for LLM Applications
- MITRE ATLAS
- garak
- promptfoo (red teaming)
- Python
Proyecto práctico
En un laboratorio, atacas una aplicación de IA vulnerable (chat con RAG y herramientas), documentas los fallos encontrados según el OWASP Top 10 para LLMs y aplicas las mitigaciones hasta superar las pruebas.
Requisitos
- Conocimientos de desarrollo o de seguridad informática.
Otros cursos
-
Curso de ética y toma de decisiones con IA
Un método práctico para decidir cuándo y cómo usar la IA de forma responsable.
- Duración: 4–6 horas
- Nivel: Inicial
-
Curso de gobernanza y cumplimiento para IA
Un marco práctico para usar la IA con orden y cumplir el AI Act sin frenar la innovación.
- Duración: 8 horas
- Nivel: Intermedio
-
Curso de protección de datos e IA (RGPD)
Usa la IA con datos personales cumpliendo el RGPD desde el diseño.
- Duración: 6–8 horas
- Nivel: Intermedio
Dónde se aplica
-
Integración de IA en apps y sistemas
Incorporamos IA en las herramientas que ya usa tu empresa para automatizar tareas, consultar información y conectar datos sin tener que cambiarlo todo.
¿Quieres este curso para tu equipo?
Adaptamos el contenido, la duración y la modalidad a tu empresa.