Строительство каменного храма было обусловлено стремлением местного населения иметь более долговечное и просторное здание для богослужений.
Первоначально храм был трёхпрестольным: главный алтарь освящён в честь Воздвижения Честного и Животворящего Креста Господня, правый придел — в честь Всех Святых, левый придел — в честь иконы Божией Матери "Неопалимая Купина". Расположение храма на территории городского кладбища определило его неофициальное название — Кладбищенская церковь.
Архитектурно здание представляет собой каменный купольный храм с трапезной и трёхъярусной колокольней. Композиция включает четверик церкви, завершённый куполом на высоком барабане, вытянутую трапезную и колокольню. Фасады оформлены в стиле русской классической архитектуры, характерной для провинциальных культовых сооружений первой половины XIX века.
В советский период храм, как и многие религиозные учреждения, вероятно, подвергся закрытию или использованию не по назначению, однако конкретные сведения об этом периоде отсутствуют.