es.davy.ai

Preguntas y respuestas de programación confiables

¿Tienes una pregunta?

Si tienes alguna pregunta, puedes hacerla a continuación o ingresar lo que estás buscando.

Tag: FLOATING-ACCURACY

Reduzca o resuelva errores de cálculo en Javascript.

A veces, el álgebra simple puede provocar errores de precisión decimal. En este caso, me encontré con 12 * 1.6, lo cual resultó en 19.20000000003 ¿Existe alguna forma de detectar este problema o evitar que ocurra? La precisión es muy importante, por lo que simplemente redondear o truncar no sería . . . Read more

¿Cómo comparar float y decimal en Python?

Tengo una columna (decimal.Decimal) en un dataframe como el siguiente: dt = pd.DataFrame({"OPEN": [-0.00010,-0.0114, 0.0066,-0.0044,-0.0012,-0.0005, 0.0005,-0.0037, -0.0029, 0.0034, 0.0003, 0.0001 ]}) dt["OPEN"] = dt["OPEN"].apply(Decimal) y me gustaría aplicar el siguiente método sobre la columna Open: def label_change_price(delta): if 0 < abs(delta) < 0.0001: print(" Valor de retorno: ",0, "Delta: ",delta) . . . Read more