es.davy.ai

Preguntas y respuestas de programación confiables

¿Tienes una pregunta?

Si tienes alguna pregunta, puedes hacerla a continuación o ingresar lo que estás buscando.

Tag: AIRFLOW-2.X

MWAA en producciones: tareas en cola por razones desconocidas.

¿Alguien utiliza MWAA en producción? Actualmente tenemos alrededor de 500 DAGs en ejecución y observamos un comportamiento inesperado con tareas que permanecen en estado “en cola” por razones desconocidas. La tarea está en estado “en cola”, que no es un estado válido para la ejecución. La tarea debe ser limpiada . . . Read more

Obteniendo un error al truncar una tabla de Redshift utilizando el operador S3ToRedshiftOperator.

Quiero truncar mi tabla de Redshift antes de cargar un archivo CSV en la tabla de Redshift. Error: airflow.exceptions.AirflowException: Se pasaron argumentos no válidos a S3ToRedshiftOperator (task_id: dag_runs3_to_redshift). Los argumentos no válidos fueron: **kwargs: {‘method’: ‘REPLACE’} Código siguiente: task_fail_s3_to_redshift = S3ToRedshiftOperator( s3_bucket=S3_BUCKET, s3_key=”{{ti.xcom_pull(task_ids=’export_db’,key=’FILE_PATH_1′)}}”, schema=”dw_stage”, table=”task_fail”, copy_options=[‘csv’, “IGNOREHEADER 1”], redshift_conn_id=’redshift’, method=’REPLACE’, . . . Read more

Utilice Smart Sensors y aún así obtenga variables de contexto.

Estoy en Airflow 2.1.4 y estoy tratando de modificar un sensor personalizado para que actúe como un “Sensor Inteligente”. Entre otras cosas, para permitir que un sensor personalizado funcione como un Sensor Inteligente, necesitas proporcionarle una variable de clase “poke_context_fields”. Esto no está muy bien documentado, pero creo que es . . . Read more