Tag: GOOGLE-CLOUD-COMPOSER
Recientemente construí 120 dags utilizando Cloud Composer. Todos funcionaron por un tiempo. Todos eran aproximadamente iguales. Cada uno usaba un operador de Python. Cada uno hacía llamadas API a Google Search Console. Cada uno recogía de 7 a 9 mil filas de datos de GSC en un dataframe de Pandas . . . Read more
Tengo un requisito en el que necesito que el dag desencadenado por TriggerDagRunOperator ejecute un backfill y no solo para la misma fecha de ejecución. El operador TriggerDagOperator está configurado de la siguiente manera: trigger1 = TriggerDagRunOperator( task_id = 'trigger1', trigger_dag_id = 'target_dag', conf = {'message': 'Iniciando objetivo 1'}, reset_dag_run . . . Read more
Estoy trabajando con Airflow y luchando un poco con su concepto de tiempo. De hecho, mi situación es: Me gustaría programar mi DAG como con DAG( ‘MI_DAG’, default_args=default_args, catchup=False, schedule_interval=’0 0 1,11-20 * *” #Cada 1er día del mes y cada día entre el 11 y el 20 ) como . . . Read more