es.davy.ai

Preguntas y respuestas de programación confiables

¿Tienes una pregunta?

Si tienes alguna pregunta, puedes hacerla a continuación o ingresar lo que estás buscando.

Tag: ARBITRARY-PRECISION

¿Por qué necesitamos std::numeric_limits::max_digits10?

Entiendo que los puntos flotantes se representan en la memoria utilizando la forma de signo, exponente y mantisa, que tienen un número limitado de bits para representar cada parte, y esto lleva a errores de redondeo. Básicamente, si tengo un número de punto flotante, debido a cierto número de bits, . . . Read more

NSNumber floatValue devuelve un valor incorrecto.

Estoy en macOS, objetivo-c. No swift, no iOS. Para pasar un float temporalmente necesito convertirlo en un objeto en cierto punto: NSNumber* floatNumber = @.5; // Otras cosas… float myFloat = [floatNumber floatValue]; // –> (float) 0.5 Sin embargo, al hacer lo mismo con: NSNumber* floatNumber = @.4; // Otras . . . Read more

Resolver problema de precisión (en Python)

Estoy experimentando problemas de precisión con fsolve. import numpy as np from scipy.optimize import fsolve ens=np.arange(0,50,1) def f(x): return x*(np.sin(x)/np.cos(x))-1000 s=[] roots=fsolve(f,ens) roots=np.around(roots, decimals=3 , out=None) a = roots[roots >= 0] g = np.unique(a) g=g[:5] s.append(g) print(s) Resultado: [array([10.842, 11.006, 15.165, 21.116, 22.382])] El resultado debería ser: [1.569, 4.708, 7.846, . . . Read more

5456.367 -> 5456.367188. ¿Es esto debido a la precisión de los números flotantes en C?

Tengo un programa en C como este: #include <stdio.h> int main() { float number = 0; scanf(“%f”, &number); printf(“%f\n”, number); } Y el resultado es: ururay@note:~/workspace/c/float-precision$ gcc float-precision.c -o float-precision ururay@note:~/workspace/c/float-precision$ ./float-precision 5456.367 5456.367188 He ejecutado este programa varias veces y el resultado es el mismo. ¿Se le agrega “188” . . . Read more