Tag: APACHE-NIFI
Creé un proyecto en GCP. Luego creé una VM con Debian 5.10.46-4. Luego instalé Nifi 1.14.0. En las propiedades veo lo siguiente: propiedades web Por seguridad, NiFi mostrará la interfaz de usuario en 127.0.0.1 y solo será accesible a través de esta interfaz de bucle local. Tenga en cuenta que . . . Read more
Quiero usar Apache NiFi para escribir algunos datos codificados en Avro en Apache Kafka. Por lo tanto, uso el procesador “ConvertRecord” para convertir de JSON a Avro. Para Avro, se utiliza “AvroRecordSetWriter” con “ConfluentSchemaRegistry”. La URL del esquema está configurada como “http:<nombre del host>:<puerto>/apis/ccompat/v6” (el nombre del host y el . . . Read more
Estoy utilizando Apache Nifi para el trabajo de ETL. En mi estructura de datos, debido a datos heredados, algunos campos están vacíos o nulos. Quiero completarlos con datos lógicos. Los datos son los siguientes: [ { “id”: 1234, “business_date”: “2021-11-30”, “order_date_time”: “2021-11-30 12:10:45” }, { “id”: 1, “business_date”: null, “order_date_time”: . . . Read more
Para la carga incremental, utilizaremos el procesador QueryDatabaseTable que extrae datos incrementalmente de una tabla. Para escribir consultas SQL que extraigan datos de múltiples tablas, estamos utilizando el procesador ExecuteSQL. ¿Cómo podemos extraer una carga incremental para una consulta de unión?
Estoy utilizando NiFi para recibir datos de usuario y combinar todos los JSON en un solo registro. El procesador MergeRecord está funcionando como necesito, excepto que siempre deja fuera un registro (generalmente el mismo cada vez). El procesador está configurado para ejecutarse cada 60 segundos. No puedo entender por qué, . . . Read more