Первоначально на месте нынешнего храма существовала деревянная церковь, упоминаемая в документах 1628 года. В писцовых книгах 1646 года указаны её размеры — 8 на 5 саженей. В 1703 году, на средства елецкого помещика стольника Евсевия Бехтеева, была построена новая каменно-деревянная церковь, в которую переведён престол из сгоревшей Воскресенской соборной церкви. Около 1720 года храм был обновлён: второй деревянный этаж заменён каменным на средства помещика Алексея Дмитриевича Свишинского. В 1748 году распоряжением епископа Воронежского Феофилакта Архангельская церковь была переведена в разряд придельных при Воскресенской, а в 1772 году указом Воронежской духовной консистории велено именовать её Воскресенской. Взамен пришедшего в ветхость деревянного храма Казанской иконы Божией Матери с приделом Архангела Михаила, который стал главным престолом новой церкви, была сооружена новая каменная Архангельская церковь, упоминаемая в документах 1772 года.
В 1823 году трапезная часть храма была расширена, и в ней устроены два придельных алтаря: правый — во имя святого пророка Илии и левый — во имя святых Иоакима и Анны, согласно желанию строителя Иоакима Александровича Зотова. В главном храме были устроены два придела: правый — во имя святых апостолов Петра и Павла и левый — во имя святителя Николая Чудотворца.
В 1844 году, ввиду тесноты храмовой части и для соответствия её размерам новой трапезной, прихожане обратились с просьбой о перестройке храма. Проект был утверждён императором Николаем I в июне 1845 года. В сентябре 1845 года начались работы по распространению храма: место было очищено, разобран старый храм, закуплены материалы, нанят подрядчик для кладки цоколя, бута и стен. Строительством руководил ктитор храма, купец Александр Иванович Самохотов. В 1845–1846 годах велись работы по устройству фундаментов, однако в 1847–1849 годах из-за недостатка средств строительство было приостановлено. В 1850 году работы возобновились, но 20 октября того же года выстроенное до сводов здание обрушилось ночью из-за неустойчивости внутренних столбов. В 1851 году строительство продолжилось под наблюдением нового городского архитектора, и к 1859 году оно было в основном завершено. В 1860 году главный престол был освящён во имя Архистратига Михаила, а приделы в храмовой части были устроены после 1862 года стараниями ктитора, елецкого купца второй гильдии Николая Фёдоровича Добрианова.
Архитектурно храм представляет собой сочетание разновременных объёмов. Кубический объём пятиглавого храма с востока соединяется с пониженной трапезной, а с запада — с трёхъярусной колокольней. Необычность заключается в отсутствии апсид; роль алтарной части выполняет восточный неф, отделённый двумя из четырёх столбов, между которыми располагался иконостас. Стены храма членятся вертикальными парными трёхчетвертными колонками, разделёнными междуэтажным фризом. Над пряслами стен поднимаются кокошники в виде ложных закомар. Пять одинаковых по рисунку восьмигранных глав завершают храмовую часть.
Внутреннее убранство храма отличалось богатством и благолепием. В 1869–1878 годах на средства ктитора Н. Ф. Добрианова и пожертвования ельчан были приобретены серебряные с позолотой ризы на иконы, великолепная плащаница, шитая жемчугом, люстры, церковные облачения и различная утварь. Иконостасы храма были богато украшены. В 1880 году храм обнесён чугунной оградой с воротами и калиткой.
