Tag: ARBITRARY-PRECISION
Tengo un código simple en C# para ejecutar un procedimiento almacenado utilizando SqlCommand y SqlConnection. Uno de los parámetros de entrada del procedimiento es un tipo de datos definido por el usuario. Una de las columnas en él es de tipo decimal. Desde el código en C#, estoy enviando el . . . Read more
Verifica este código: public static void checkBug() { int a = 16763383; int b = 16763383; <pre><code> float myFloat = 222778.0f; int myInt = 222778; a += myInt; b += myFloat; System.out.println(“A is : ” + a + ” and B is: ” + b); } </code></pre> El resultado es . . . Read more
Después de algunos cálculos, tengo una matriz de números de punto flotante con algunas entradas muy pequeñas negativas (por ejemplo, -2,6e-9) que están aproximando a 0. Sé que esta matriz debería ser definida positiva, es decir, todos los eigenvalores son positivos, sin embargo, sospecho que estas entradas aproximadamente 0 pero . . . Read more
Sabía que con el comando <<fixed << set precision() podía establecer la precisión al imprimir con cout <<, pero ahora quiero asignarla. Por ejemplo, tengo un número decimal = 1.23456 y quiero asignar otro número decimal b=1.23. ¿Puedo asignar b mediante la utilización de fixed y set precision() en a? . . . Read more
Tengo una columna (decimal.Decimal) en un dataframe como el siguiente: dt = pd.DataFrame({"OPEN": [-0.00010,-0.0114, 0.0066,-0.0044,-0.0012,-0.0005, 0.0005,-0.0037, -0.0029, 0.0034, 0.0003, 0.0001 ]}) dt["OPEN"] = dt["OPEN"].apply(Decimal) y me gustaría aplicar el siguiente método sobre la columna Open: def label_change_price(delta): if 0 < abs(delta) < 0.0001: print(" Valor de retorno: ",0, "Delta: ",delta) . . . Read more