В 1813 году, по прошению купца второй гильдии С. А. Александрова, на территории нового тогда Херсонского кладбища был заложен храм в честь святой Екатерины. Строительство осуществлялось на средства инициатора и было завершено к 1819 году. Однако освящение храма состоялось лишь в 1836 году, и он был посвящен Всем Святым, что привело к празднованию двух престольных праздников: в честь святой Екатерины и Всех Святых.
Первоначально здание храма представляло собой кирпичное сооружение в классическом стиле, с одним куполом. Центральный объем имел круглую форму и завершался круглым барабаном с купольным сводом. С восточной стороны к нему примыкала прямоугольная апсида, с западной — трехъярусная колокольня со шпилем и притвором.
В 1899 году епархиальный архитектор В. Г. Слесарев разработал проект пристройки северного и южного приделов для увеличения вместимости храма. До начала Первой мировой войны был реализован только северный придел, в котором устроили престол во имя святой Екатерины.
В январе 1939 года храм был закрыт, а вскоре его колокольня разрушена. Однако в конце 1941 года богослужения были возобновлены, и храм продолжил свою деятельность.
В 1992 году, по проекту архитекторов И. Л. Брагина и Д. А. Кубрина, была осуществлена пристройка южного придела, что завершило симметричную композицию здания, задуманную ранее. Южный придел был освящен во имя Алексия, человека Божия. На прежнем месте восстановили колокольню, а рядом с церковью построили церковный дом. Весь архитектурный комплекс обнесли оградой.
