Precisión (informática)

Ir a: navegación, búsqueda de

En Ciencias de la computación, precisión de una cantidad numérica es una medida del detalle en el cual se expresa la cantidad. Esto generalmente se mide en bits, pero a veces en decimales. Se relaciona con precisión en matemáticas, que describe el número de dígitos que se utilizan para expresar un valor.

Error de redondeo

Para obtener más información: Coma flotante

La precisión es a menudo la fuente de errores de redondeo en cómputo. El número de bits utilizados para almacenar un número a menudo causará una pérdida de precisión. Un ejemplo sería almacenar sin(0.1) en precisión simple IEEE estándar de punto flotante. El error entonces se amplía a menudo como cálculos posteriores son realizados en los datos (puede también ser reducido).

Véase también

  • Aritmética de precisión arbitraria
  • IEEE754 (Estándar IEEE de punto flotante)
  • Entero (informática)
  • Cifras significativas
  • Truncamiento

Otras Páginas

Obtenido de"https://en.copro.org/w/index.php?title=Precision _ (computer_science) & oldid = 552500181"