Pendant la Première Guerre mondiale Mehring s'éloigne du SPD. Il s'oppose à la guerre, et refuse de voter les crédits militaires. En 1916, la Ligue spartakiste, une faction marxiste révolutionnaire, est fondée et Mehring en est l'un des principaux animateurs aux côtés de Rosa Luxemburg, Karl Liebknecht, Leo Jogiches, Paul Levi et Clara Zetkin.
Il est l'un des fondateurs du Parti communiste d'Allemagne (Kommunistische Partei Deutschlands, KPD), créé le 1er janvier 1919.
Malade, déprimé par l’assassinat de son amie Rosa Luxemburg le 15 janvier, il meurt le 29 janvier à Berlin, au cours de la révolution allemande.