El error numérico total es la suma de los errores de truncamiento y redondeo. En general, el único camino para minimizar los errores de redondeo es incrementado el número de cifras significativas en la computadora. Adicionalmente, hemos notado que el error por redondeo se incrementara tanto por la cancelación por resta como porque en el análisis exista un incremento en el numero de cálculos.
En contraste, se puede demostrar que el error de truncamiento puede reducirse por un tamaño de paso más pequeño. Debido a que al decrecer el tamaño del paso puede tenerse una cancelación por resta o en el incremento de cálculos, los errores de truncamiento pueden ser disminuidos cuando los errores de redondeo se incrementan. Por lo tanto se debe afrontar siguiente dilema: la estrategia para disminuir un componente del error total conduce a un incremento en el otro componente.
¡En un cálculo, se podría disminuir el tamaño del paso para minimizar los errores de truncamiento únicamente para descubrir que el error de redondeo empieza a dominar la solución y el error total crece! Así, el remedio empieza a ser un problema. Un reto implica determinar un tamaño del paso aproximado para un cálculo en particular.
Se debería seleccionar un tamaño del paso largo con el fin de disminuir la cantidad de cálculos y errores de redondeo sin incurrir en la penalización de grandes errores de redondeo. Si el error total es como se menciona, el reto es identificar el punto de disminución donde los errores de redondeo empiezan a negar los beneficios de la reducción del tamaño del paso.
En casos reales, sin embargo, tales situaciones son relativamente poco comunes porque muchas computadoras manejan suficientes cifras significativas para que los errores de redondeo no predominen. Sin embargo, algunas veces estos errores ocurren y surgen una clase de “principio numérico de incertidumbre” que da un limite absoluto sobre la exactitud que puede obtenerse usando ciertos métodos numéricos computarizados.