En 1923, il est nommé professeur de français au collège de Binche.
Le collège sort d’une période difficile. Malgré les troupes d’occupation allemande et leur attitude anti catholique, le Principal de l’époque parvient à maintenir les cours réguliers et même le fonctionnement de l'internat jusqu'en 1917. À cette date, la majeure partie des locaux sont réquisitionnés par les Allemands. Les internes doivent être renvoyés dans leurs familles. Une trentaine de maîtres et d'anciens élèves meurent pour la Patrie, un mémorial de bronze immortalise leurs noms. La réorganisation du collège, après la guerre, n'est pas aisée. Néanmoins en 1921, on dénombre 255 élèves, dont 126 en section primaire, 60 en professionnelles et 79 en humanités anciennes. C'est aussi en 1921 que s'ouvre le « petit collège » à la rue St Jacques : les trois classes primaires inférieures y sont confiées aux Sœurs de l'Enfant-Jésus de Lille. C’est dans cette ambiance que le jeune Abbé affronte la dure réalité de la vie professionnelle. Le Principal est l’Abbé Bayer. Il n’apprécie pas les méthodes pédagogiques du jeune Abbé Rousseaux.
A l’époque, la pédagogie se limite à des cours magistraux sur base de textes imposés par la hiérarchie religieuse. Au lieu de cela, l’Abbé Rousseaux fait travailler ses élèves à partir de textes et documents qu’il choisit. Il fait des analyses de textes et sollicite la réflexion des élèves et leur esprit critique, le tout en totale contradiction avec les instructions pédagogiques de l’époque. Le Principal s’inquiète et fait muter le jeune prêtre qui ne respecte pas les instructions officielles. Pour avoir effectué mes études secondaires dans un collège épiscopal dans les années 60, je peux affirmer que ce jeune prêtre a eu de la chance de ne pas avoir été éjecté purement et simplement du milieu scolaire qu’il soit épiscopal ou d’Etat et renvoyé comme vicaire ou même expatrié au Congo. Ce genre d’attitude est considéré comme particulièrement dangereux dans une structure où la hiérarchie pense pour tout le monde. Les prêtres enseignants sont soumis à la dure discipline du Principal.
Ils doivent non seulement donner cours, mais aussi souvent surveiller les dortoirs, dire des messes et donner des cours particuliers aux élèves. Comme les élèves internes retournent rarement chez eux : une fois à Noël, une fois à Pâques et pour les grandes vacances, cela crée un climat assez particulier. Les jeunes prêtres, ouverts et proches des élèves sont particulièrement surveillés et parfois inspectés par les inspecteurs épiscopaux.
Le collège épiscopal de Binche où l’Abbé Rousseaux, ancien interne du collège Saint Joseph de Chimay, connait bien l’ambiance et le dévouement des prêtres qui y enseignent.
chapelle où il célèbre chaque jour la messe avec deux élèves