es.davy.ai

Preguntas y respuestas de programación confiables

¿Tienes una pregunta?

Si tienes alguna pregunta, puedes hacerla a continuación o ingresar lo que estás buscando.

Tag: APACHE-FLINK

Apache Flink: checkpointeando un operador que despacha elementos después de un retraso.

Quiero transmitir eventos entrantes desde un flujo después de cierto retraso. Este es el código del operador Flink que hace eso: class MessageDelayFunction[T](schedulingDelay: Int, timeUnit: TimeUnit) extends RichAsyncFunction[T, T] { // use guava’s executor for periodic execution private var scheduledThreadPoolExecutor: ScheduledThreadPoolExecutor = _ private var executorService: ListeningScheduledExecutorService = _ override . . . Read more

¿Cómo ocurre el cambio de contexto del slot cuando se realiza una pausa en el hilo de tarea de una fuente personalizada de Flink?

Tengo una fuente personalizada que genera algunos eventos cada x minutos. He consultado este archivo (https://github.com/apache/flink/blob/master/flink-end-to-end-tests/flink-cli-test/src/main/java/org/apache/flink/streaming/tests/PeriodicStreamingJob.java) y mi código es algo similar a esto: public class PeriodicSourceGenerator extends RichParallelSourceFunction<genericmetric> { private transient AtomicBoolean isRunning; @Override public void open(final Configuration c) throws Exception { isRunning = new AtomicBoolean(true); } @Override public . . . Read more

El estado de checkpoint de Flink siempre está en progreso.

Utilizo el conector de flujo de datos KafkaSource y la función HbaseSinkFunction para consumir datos de Kafka y escribirlos en HBase. Habilito el punto de control de esta forma: env.enableCheckpointing(3000,CheckpointingMode.EXACTLY_ONCE); Los datos en Kafka ya se han escrito correctamente en HBase, pero el estado de los puntos de control en . . . Read more