Építésére Augustus Kr. e. 22-ben tett fogadalmat, amikor a cantabriai hadjárat alatt szerencsésen megmenekült egy közeli villámcsapástól. A templomot ugyanezen év szeptember 1-jén szentelték fel. Az istenség mellékneve, a 'Tonans' a Zeus Brontós átirata, ami két latin nyelvű feliraton is megjelenik. Maga a templom pompás megjelenéséről és művészi gazdagságáról volt híres.

Falai tiszta márványból készültek, és számos műremeket rejtettek. Augustus gyakran látogatta ezt a templomot, s egy ízben azt álmodta, hogy Iuppiter arról panaszkodott, hogy az új templom pompája erősen csökkenti az ősi Iuppiter Optimus templom látogatóinak számát. Augustus azt válaszolta erre, hogy Iuppiter Tonans csak a Nagy Iuppiter portása, s új templomának oromfalain harangokat helyeztetett el, hogy ezt a kapcsolatot jelezze is.

Ez a szöveghely arra utal, hogy a templomnak az area Capitolina bejáratához közel kellett állnia, a domb délkeleti végében. 1896-ban feltárták egy templom alapozását ezen a helyen, feltehetőleg ennek a templomnak a romjai lehettek. Kinézetére Augustus érme-képéből következtetünk, aminek alapján hexastylusnak, hatoszloposnak kellett lennie. A templom Iuppiter szobra kinyújtott, talán jogart tartó kezű álló alak, ami bizonyos feltételezések szerint Leochares híres szobrának egy másolata lehetett.