Giuseppe Chiarelli nacque a Martina Franca (Taranto) il 15 giugno 1904 da Angelo Raffaele, insegnante elementare, e da Maria Rossano.
Dopo aver frequentato l'istituto privato "Nicolò Tommaseo", fondato e diretto dal padre, completò gli studi superiori presso il liceo "Cirillo" di Bari, dove ebbe come professori Francesco Saverio Nitti e Angelico Tosti Cardarelli. Laureatosi in giurisprudenza presso l'università di Roma nel 1926 con una tesi discussa con Giovanni Gentile, venne nominato assistente presso l'istituto giuridico dell'università di Perugia, per poi reggere, dal 1928, l'incarico di docente di diritto amministrativo e della legislazione del lavoro presso le università di Camerino e, in seguito, di Perugia. Vinta nel 1934 la cattedra di diritto corporativo presso questa università, divenne avvocato cassazionista, membro dei Consiglio superiore della Pubblica Istruzione, della Commissione per la redazione dei codici e della Camera dei Fasci e delle Corporazioni. Dopo aver partecipato alla campagna d'Albania, nel 1942 il C. venne chiamato a ricoprire la cattedra di istituzioni di diritto pubblico nella facoltà di economia e commercio dell'università di Roma, di cui fu preside dal 1952 al 1961. Il 2 febbraio di quell'anno venne nominato dal presidente Gronchi giudice della Corte costituzionale, di cui diventò presidente (dal 22 nov. 1971 fino alla scadenza del mandato, il 16 febbr. 1973).Dopo aver lasciato la Corte costituzionale fu chiamato dalla facoltà di giurisprudenza dell'università di Roma a ricoprire la cattedra di diritto pubblico generale; presiedette la Commissione per il riordinamento delle partecipazioni statali e fu membro autorevole della commissione di esperti per la riforma del Consiglio nazionale dell'economia e del lavoro.
Il Chiarelli morì a Roma il 24 luglio 1978.