Церковь Петра и Павла, а также Варваринская церковь, бывшие первоначально единой храмовой постройкой. Храм был построен в 1146 году при смоленском князе Ростиславе Мстиславиче. Церковь была изготовлена из узких глиняных кирпичей — плинфы, скреплённых известковым раствором. Освятил его первый смоленский епископ — Симеон. Во время польской интервенции 1611—1654 годов храм был превращён в костёл. Затем храм вновь становится православным.
В XVIII веке храмовый комплекс был полностью перестроен. В 1943 году во время боёв за освобождение Смоленска храм подвергся разрушениям. Он был восстановлен в предполагаемых первоначальных формах в 1962—1963 годах под руководством архитектора П. Д. Барановского. Третий этаж палат был снесён, храм отделён от Варварьинской церкви.
В мае 1935 года церковь была ликвидирована — в храме перестали проводить службы. Церковная жизнь была возобновлена 26 мая 1991 года.
Храм передан епархии в 1994 году. В 1994-1996 годах в нем временно размещалась Смоленская Духовная семинария. С осени 1997 года здесь находилось регентское отделение семинарии. В 1997-1998 годах проведена реставрация верхних ярусов колокольни. Приход зарегистрирован 17 декабря 1999 года. На первом этаже оборудован престол в честь великомученицы Варвары. Первое Богослужение прошло 7 февраля 2000 года. 17 декабря 2001 года церковь в честь святой великомученицы Варвары была освящена митрополитом Смоленским и Калининградским Кириллом. Сегодня здесь совершается Таинство Крещения и ежедневно читается Псалтирь.
Реконструкция первоначального вида храма