Fue inventor de un método, similar a la fórmula para ecuaciones cuadráticas, para resolver ecuaciones de 3er grado. Estando en Venecia, en 1535, del Fiore, le propuso un duelo matemático, el cual Tartaglia aceptó.  Tartaglia, para ganar este duelo, desarrolló la fórmula general para resolver las ecuaciones de tercer grado, lo que le ayudó a resolver las treinta cuestiones que le planteó su contrincante, sin que este lograse resolver ninguna de las propuestas por Tartaglia.

El éxito de Tartaglia le llegó a Gerolamo Cardano, quien le pidió  su fórmula, la cual le daría si no la publicaba. Sin embargo, Tartaglia no publicaba su fórmula, y  llegó a manos de Cardano un escrito inédito, en el que se llegaba al mismo resultado, de otro matemático fechado con anterioridad al de Tartaglia, finalmente Cardano quien, considerándose libre del juramento, la publicó en su obra Ars magna(1545). Tartaglia, quedó muy afectado de esto, y insultó públicamente a Cardano(personalmente y profesionalmente) terminando siendo enemigos irreconciliables. Por lo que las fórmulas de Tartaglia pasaron a la posteridad como fórmulas de Cardano.

Otras aportaciones destacables de Tartaglia fueron los primeros estudios de aplicación de las matemáticas a la artillería en el cálculo de la trayectorias de los proyectiles, así como por la expresión matemática para el cálculo del volumen de un tetraedro, cualquiera en función de las longitudes de sus lados, la llamada fórmula de Tartaglia, una generalización de la fórmula de Herón (usada para el cálculo del área del triángulo)