Precisión

De Wikipedia, la enciclopedia libre
Saltar a: navegación, búsqueda

En instrumentación industrial: La precisión es la tolerancia de medida o de transmisión del instrumento y define los límites de los errores cometidos cuando el instrumento se emplea en condiciones normales de servicio, según el libro de instrumentación industrial de Antonio Creus. No confundir con Resolución

Es un parámetro relevante, especialmente en la investigación de fenómenos físicos, ámbito en el cual los resultados se expresan como un número más una indicación del error máximo estimado para la magnitud. Es decir, se indica una zona dentro de la cual está comprendido el verdadero valor de la magnitud.[1]

En informática, se denomina asimismo precisión al número de bits usados para representar un valor. En general, en un sistema computacional la precisión está dada por el valor del dígito menos significativo de una palabra digital que representa un número con una escala y en un tipo de dato definido. Visto desde otra perspectiva, equivale a la diferencia entre dos valores sucesivos representables en el tipo de dato y escala del número.

Véase también[editar]

Referencias[editar]

  1. Cromer, Alan H.; Fernández Ferrer, Julián (2010) (en español). Física en la ciencia y en la industria (3 edición). Editorial Reverté, S.A.. pp. 15. ISBN 978-84-291-4156-6.