Tag: AZURE-DATABRICKS
Estoy utilizando Azure Databricks para analizar algunos datos. Tengo la siguiente estructura de carpetas en el almacenamiento de blob: carpeta_1\n1 archivo csv carpeta_2\n2 archivos csv .. carpeta_k\nk archivos csv Deseo leer estos archivos, ejecutar un algoritmo (relativamente sencillo) y escribir algunos archivos de registro y archivos de imágenes para cada . . . Read more
He estado experimentando con el uso de diferentes métodos de encriptación y almacenando claves en el alcance secreto de Databricks. He estado intentando implementar esto: https://cryptography.io/en/latest/hazmat/primitives/aead/#cryptography.hazmat.primitives.ciphers.aead.AESGCM Entonces ejecuto: key = AESGCM.generate_key(bit_length=128) La operación anterior devuelve bytes (ejemplo: b’dfh576748′). Luego guardo este valor en el alcance secreto, pero sigue dando un . . . Read more
Tengo un pipeline completo desde las entradas de datos hasta las predicciones finales. Tengo 10 modelos en su lugar (escribí una función para automatizar todo el proceso) y luego, elijo 1 modelo basado en la precisión. Ahora, necesito almacenar todos los modelos (porque cualquier modelo puede tener una precisión mejor . . . Read more
Necesito tu ayuda por favor, tengo un código simple en Python que enumera todos los campos en las tablas de todas las bases de datos que están en Databricks, hay aproximadamente 90 tablas y me gustaría guardar el resultado en un archivo txt o csv. Aquí está el código utilizado, . . . Read more
Tengo un caso de uso en el que necesito ejecutar un conjunto de notebooks desarrollados en Azure Databricks (que realizan varias consultas y cálculos), pero el usuario final (no técnico) solo necesita el resultado final, mostrado en una página web. Busqué en las APIs de Azure Databricks pero no encontré . . . Read more