Lors de la déclaration de guerre en 1914, Rosmer et Pierre Monatte sont en désaccord avec la politique de l’union sacrée. Ils refusent de soumettre à la censure la VO, qui cesse par conséquent de paraître. Rosmer est mobilisé, mais reste proche de Paris et peut poursuivre ses activités militantes. Toujours en phase avec Monatte, il devient l’âme d’un petit groupe internationaliste. Il organise la diffusion clandestine en France de l'« Au-dessus de la mêlée » publié en Suisse, par Romain Rolland.