Первая деревянная Успенская церковь была возведена в 1592 году одновременно с основанием Елецкой крепости. В течение определённого времени она выполняла функции соборного храма. В 1743 году прихожане приняли решение о строительстве нового каменного храма на прежнем месте, близ нынешнего Вознесенского собора. Строительство завершилось в 1757 году, и храм был освящён епископом Воронежским и Елецким Феофилактом.
В 1815 году, в связи с планируемым возведением нового собора, было принято решение о переносе Успенской церкви на новое место. Прихожане и духовенство выбрали участок на углу Воронежской и Успенской улиц (ныне улицы Карла Маркса и Советская). Разборка старой церкви продолжалась до 1824 года, параллельно велось строительство нового храма. Возведение двухэтажной каменной церкви осуществлялось с 1815 по 1829 годы под руководством священника Георгия Ключарёва и купца Григория Назарова. В 1823 году был завершён и освящён нижний храм в честь Богоявления, а в 1829 году — верхний с престолом Успения Пресвятой Богородицы.
Колокольня храма высотой 79 метров строилась в период с 1833 по 1841 годы, став одной из самых высоких в регионе. Архитектурный облик храма представляет собой образец высокого классицизма, подчёркивая величие и торжественность сооружения. Пятиглавие храма и монументальная колокольня являются характерными чертами его архитектуры.
В советский период, в 1930-х годах, храм был закрыт, а его помещения использовались в качестве склада до 1962 года. Во время Великой Отечественной войны в трапезную часть храма попала бомба, что привело к разрушению свода.
В 1997 году храм был возвращён Русской Православной Церкви, после чего начались реставрационные работы. Сначала усилия были сосредоточены на восстановлении алтарной части. В последующие годы реставрация продолжалась, и в настоящее время храм является действующим, в нём регулярно проводятся богослужения.
