История храма начинается с начала XX века, когда в 1910 году на Владимирской горке была построена семейная усыпальница купца Прокопия Ефремовича Ефремова и его супруги Екатерины Васильевны. Проект усыпальницы был разработан архитектором Э.Д. Малиновским в стиле неоклассицизма. Здание представляло собой двухэтажную часовню: нижний этаж служил склепом, а верхний — часовней.
В советский период здание усыпальницы было закрыто и использовалось не по назначению. В 1990 году начались восстановительные работы, в ходе которых в нижнем этаже был устроен храм в честь Всех святых, в земле Российской просиявших. В 1993 году был освящён верхний престол в честь святого праведного Иоанна Кронштадтского. Таким образом, здание стало двухпрестольным храмом.
Архитектурный облик храма отличается классической простотой композиции и выразительными деталями. Западный фасад оформлен портиком с треугольным фронтоном, опирающимся на круглые колонны коринфского ордера. Северный и южный фасады украшены спаренными пилястрами ионического ордера. Окна имеют арочную форму с декоративными элементами. Внутреннее убранство храма включает лепнину и росписи, восстановленные в ходе реставрационных работ.