Joseph est le cadet d’une famille de quatorze enfants.  Près de vingt-cinq ans le séparent de sa sœur aînée.  Alors qu’il n’est toujours pas de ce monde, ses parents, après avoir cultivé la terre à Saint-Fulgence pendant près de vingt ans, quittent le Saguenay vers 1894 pour s’établir à Causapscal dans la vallée de la Matapédia, où une tante et un oncle vivent déjà.  En 1898, à la naissance de Joseph, le registre affirme que son père est cultivateur, mais comme la plupart des habitants de la vallée, il travaille en forêt une bonne partie de l’année, comme mesureur de bois.  

Joseph passera son enfance à contempler les paysages de la vallée de la Matapédia.  Il fréquente une petite école de village dans sa vallée natale pendant quelques années, mais ses études se terminent lors du départ de la famille pour la Saskatchewan en 1911.  Son père, non satisfait de sa situation, s’était laissé tenter par le discours d’un missionnaire colonisateur du diocèse de Prince Albert en Saskatchewan, en visite de recrutement de colons.  

C’est à Ormeaux en Saskatchewan que s’établira la famille et où Joseph vivra son adolescence. 

Quelque temps plus tard, le père de Joseph se fait construire une grande résidence-magasin à Debden.  Pendant plusieurs années, le jeune Joseph travaille pour son père et pour son frère Victor. 

En 1916, alors qu’il vient tout juste d’avoir dix-huit ans, il acquiert une concession des terres de la couronne dans le même canton.  C’est dans cette période de défrichage et culture de la terre qu’il écrira la plupart des poèmes qui nous sont parvenus.