Первоначально на этом месте в 1736 году была возведена деревянная церковь, известная как Успенско-Ахтырская, или «За приказами».Она служила кладбищенским храмом на окраине города.
В 1782 году на месте обветшавшей деревянной церкви была построена каменная, одноглавая, четырёхстолпная церковь с двухъярусной колокольней, выполненная в стиле раннего классицизма с элементами перехода от барокко.
В 1872 году к правой стороне храма был пристроен придел в честь Ахтырской иконы Божией Матери. В 1898 году, по проекту епархиального архитектора Слесарева, храм был перестроен в традициях псевдорусского стиля, став тринадцатиглавым. Фасады были украшены декоративными элементами, включая кокошники, а колокольня получила высокое шатровое завершение.
В 1935 году церковь была закрыта и передана под общежитие медицинского института. С 1937 по 1950-е годы в здании размещался матрасный цех артели незрячих инвалидов «2-я пятилетка». В этот период были разобраны колокольня и купола, изменены фасады, а основной объём надстроен вторым этажом.
В 1997 году здание храма было возвращено Русской Православной Церкви. Начались восстановительные работы, включавшие снос второго этажа, восстановление колокольни и куполов, а также реставрацию фасадов. К началу 2012 года внешний облик храма был в значительной степени восстановлен, включая двадцатиметровую колокольню и тринадцать куполов.
