Первоначально на этом месте находилась деревянная церковь, которая была утрачена при пожаре. В 1763 году началось строительство нового каменного храма, ставшего одной из первых каменных построек в Тамбове. Храм сочетает в себе черты различных архитектурных стилей, характерных для переходного периода от деревянного зодчества к каменному. Особенно заметно влияние русского стиля: в архитектуре повторяются формы деревянных храмов, такие как восьмигранники и шатры.
В начале XX века храм стал полковой церковью 7-го запасного кавалерийского полка. В 1918 году храм был закрыт, а его здание использовалось под общежитие и склад.
В 1943 году храм был вновь открыт для богослужений. Нижняя церковь, первоначально посвящённая святому Иоанну Златоусту, после открытия была переосвящена в честь преподобного Серафима Саровского.
Архитектурно храм представляет собой двухпрестольную каменную церковь с Пятницким приделом. Здание выполнено в стиле, сочетающем элементы барокко и русского зодчества. Особенностью храма являются килевидные наличники окон нижнего храма.
