Tag: ARBITRARY-PRECISION
Estoy buscando cargar un valor de alta precisión desde Oracle a Snowflake. Estoy haciendo esto extrayendo primero el valor de Oracle en un archivo CSV a través de un Script de Python y luego cargándolo en Snowflake DB. Lo que estoy encontrando es que el valor no se extrae igual . . . Read more
Considere el promedio de cuatro números {4.1, 4.1, 4.1, 4.3}, redondeado al decimal más cercano. El promedio de los cuatro números es exactamente 4.15; al utilizar la función Round de VBA se obtiene el resultado correcto de 4.2. Sin embargo, si se le proporciona la expresión que calcula el promedio, . . . Read more
Así que tengo el siguiente fragmento de código en C: int a = 25, b = 100, c; if (b++ <= (a * 4)) c = 3; else c = 20; printf ("%f\n", (float) (b / c)); Cuando ejecuté el código, la salida devolvió el valor 33.0000. Esperaba que la . . . Read more
Hay varios algoritmos tanto más como menos numéricamente robustos y precisos para calcular la varianza de una muestra de datos x. Por ejemplo, hay una fórmula con alta precisión (ver referencias abajo), aproximadamente equivalente a ( sum((x – mean(x))^2) – (sum(x – mean(x))^2)/length(x) )/length(x) que es ligeramente ineficiente porque realiza . . . Read more
Tengo un código en C que hace lo correcto como deseo. void create_weights(float alpha, float beta, float kappa, uint8_t L){ /* Calcular los parámetros lambda y gamma */ double lambda = alpha * alpha * (L + kappa) – (double)L; /* Insertar en el primer índice */ float Wm0 = . . . Read more