conferences | speakers | series

Creando workflows dinámicos en Airflow

home

Creando workflows dinámicos en Airflow
PyConES 2022

En esta charla vamos a ver algunos elementos en Airflow que te permitirán crear workflows dinámicos que se adapten a los resultados particulares de cada ejecución. Posiblemente no es algo que vayas a usar habitualmente en tu día a día pero no está de más conocerlos.

Mi experiencia con Airflow es que los workflows suelen ser más o menos estáticos. Algunas partes pueden ejecutarse o no en función de los parámetros de entrada pero es menos habitual que cambien en función de los resultados intermedios. Sin embargo, investigando un poco podemos encontrar algunos elementos que nos permitirán implementar workflows que se adapten a los resultados y ejecuten o no ciertas tareas a medida que se vayan ejecutando. En esta charla vamos a hablar de Trigger rules, branch operators, XComs, contexts y sessions y cómo podemos combinarlos para volvernos locos y complicar nuestros workflows tanto como queramos : )

Speakers: Javier Martin Salinas