Entre el 1996 i el 2001, es va enfrontar a diversos arrestos per possessió de drogues i problemes legals que el van apartar de múltiples projectes.
Va ser acomiadat de la sèrie Ally McBeal el 2001, malgrat guanyar un Globus d'Or pel seu paper com Larry Paul.
Durant aquest període, Downey Jr. va estar en rehabilitació i presó, cosa que va marcar un punt baix en la seva carrera.