Quan treballem amb nombres molt grans o molt petits, hi ha eines matemàtiques que ens permeten escriure el seu valor d'una manera més simplificada. Amb aquesta finalitat sorgeix la notació científica, que consisteix a fer servir les potències de base 10 per reduir el nombre a valors que es troben entre l'1 i el 10 al costat de la potència.
Les xifres significatives són el nombre de dígits el valor dels quals es coneix amb certesa.
La sensibilitat és la capacitat que té qualsevol instrument per respondre davant petites variacions de la magnitud que està mesurant.
La precisió està associada al mètode de mesura i es relaciona amb la dispersió dels valors obtinguts: com més dispersos són, menys precisió té el mètode.
Si bé la sensibilitat està vinculada a l'aparell de mesura, la precisió depèn de la dispersió dels valors obtinguts. Per treballar aquest concepte, el més correcte és realitzar diverses mesures i considerar la mitjana de totes elles com el valor real.
L'error absolut és la diferència entre el valor de la mesura i el valor real. El resultat s'expressa en valor absolut.
Ea = | Valor mesura − Valor real |
L'error relatiu és el quocient entre l'error absolut i el valor real. El resultat s'expressa en tant per cent (%).