Tag: ARBITRARY-PRECISION
Contexto La fórmula matemática de desencriptación para el método El Gamal es la siguiente: m = ab^(-k) mod p Específicamente en Python, quiero calcular el siguiente equivalente: python >> m = (b**(-k) * a) % p El problema en el código de Python anterior es que los números insertados podrían . . . Read more
Entiendo que los puntos flotantes se representan en la memoria utilizando la forma de signo, exponente y mantisa, que tienen un número limitado de bits para representar cada parte, y esto lleva a errores de redondeo. Básicamente, si tengo un número de punto flotante, debido a cierto número de bits, . . . Read more
Estoy en macOS, objetivo-c. No swift, no iOS. Para pasar un float temporalmente necesito convertirlo en un objeto en cierto punto: NSNumber* floatNumber = @.5; // Otras cosas… float myFloat = [floatNumber floatValue]; // –> (float) 0.5 Sin embargo, al hacer lo mismo con: NSNumber* floatNumber = @.4; // Otras . . . Read more
Estoy experimentando problemas de precisión con fsolve. import numpy as np from scipy.optimize import fsolve ens=np.arange(0,50,1) def f(x): return x*(np.sin(x)/np.cos(x))-1000 s=[] roots=fsolve(f,ens) roots=np.around(roots, decimals=3 , out=None) a = roots[roots >= 0] g = np.unique(a) g=g[:5] s.append(g) print(s) Resultado: [array([10.842, 11.006, 15.165, 21.116, 22.382])] El resultado debería ser: [1.569, 4.708, 7.846, . . . Read more
Tengo un programa en C como este: #include <stdio.h> int main() { float number = 0; scanf(“%f”, &number); printf(“%f\n”, number); } Y el resultado es: ururay@note:~/workspace/c/float-precision$ gcc float-precision.c -o float-precision ururay@note:~/workspace/c/float-precision$ ./float-precision 5456.367 5456.367188 He ejecutado este programa varias veces y el resultado es el mismo. ¿Se le agrega “188” . . . Read more