Quiero imprimir la longitud de un número float sin ceros finales usando python. ejemplos: 0.001000 >>> Quiero obtener longitud=5 0.000100 >>> Quiero obtener longitud=6 0.010000 >>> Quiero obtener longitud=4 ¿Algún consejo?
A veces, el álgebra simple puede provocar errores de precisión decimal. En este caso, me encontré con 12 * 1.6, lo cual resultó en 19.20000000003 ¿Existe alguna forma de detectar este problema o evitar que ocurra? La precisión es muy importante, por lo que simplemente redondear o truncar no sería . . . Read more
Tengo el siguiente problema complicado, demostrado en jshell 11.0.12 y 17.0.1 aquí jshell> 13.9f $1 ==> 13.9 jshell> 13.9 $2 ==> 13.9 jshell> (double) 13.9f $3 ==> 13.899999618530273 Lo mismo ocurre en una clase compilada simple en ambas versiones strictfp public class Test { public strictfp static void main(String[] args) . . . Read more
Tengo un double x, resultado de un cálculo, para el cual x > 1.0 retorna true. Quiero poder imprimir la representación exacta en notación científica de ese número sin dígitos basura. Sé que tiene 64 bits, por lo tanto, me gustaría ver el número exacto que representa. Tengo problemas porque, . . . Read more