Первоначально в старой столице Донского казачества, Черкасске (ныне станица Старочеркасская), существовала деревянная церковь во имя Архангела Михаила. С переносом столицы в Новочеркасск возникла необходимость переноса и этого храма. В декабре 1812 года епископ Воронежский и Черкасский Антоний дал разрешение на перенос церкви, несмотря на существовавший запрет Святейшего Синода на подобные действия. Синод также дал согласие при условии, что после возвращения донских казаков с войны с Наполеоном будет построена каменная церковь. В 1813 году деревянный храм был разобран и перевезен в Новочеркасск.
Вместе с храмом была перевезена и богатая церковная утварь, включая многоярусный иконостас с резными украшениями и позолотой, иконы в серебряных окладах, а также запрестольные иконы, украшенные драгоценными камнями. В 1834 году к деревянному храму были пристроены два предела: в честь Владимирской иконы Божией Матери и святого Иоанна Предтечи, освященные в 1837 и 1839 годах соответственно.
Со временем деревянный храм обветшал, и в 1850 году староста Семен Николаевич Кошкин инициировал строительство каменного здания. Средства на новый храм собирались около десяти лет. В 1863 году состоялась закладка нового каменного храма на западной стороне Азовской площади (ныне территория Азовского рынка). Строительство, продолжавшееся почти шесть лет, завершилось в 1869 году, после чего начались отделочные работы, длившиеся еще около трех лет. В 1872 году богослужения начали проводиться в новом здании.
Новый храм был построен по проекту архитектора Якова Седова и освящен 8 ноября 1873 года в честь Собора Архистратига Михаила и прочих Небесных Сил бесплотных. Старая деревянная церковь была передана единоверцам и переосвящена во имя Успения Пресвятой Богородицы.
В советский период храм, как и многие другие религиозные сооружения, подвергся закрытию. В 1937 году церковь была закрыта, и здание использовалось под различные хозяйственные нужды, включая склад. В течение следующих 24 лет здание не ремонтировалось, что привело к его значительному разрушению.
В 1990 году храм был возвращен Русской Православной Церкви в неудовлетворительном состоянии. Под руководством священника Олега Добринского начались восстановительные работы. Регулярные богослужения возобновились с 14 января 1991 года после освящения главного алтаря во имя Архангела Михаила и Всех Небесных Сил митрополитом Ростовским Владимиром. В последующие годы были освящены придельные престолы: в честь Владимирской иконы Божией Матери (3 июня 1992 года) и святого Иоанна Предтечи (7 апреля 1994 года). В 1995–1998 годах был восстановлен нижний храм с престолом во имя великомученика Пантелеимона Целителя, освященный 31 мая 1998 года архиепископом Ростовским Пантелеимоном.
В ходе восстановительных работ были обновлены настенные росписи, изготовлены новые иконостасы, а также восстановлена усыпальница храмостроителя Семена Николаевича Кошкина, расположенная в склепе под левым приделом нижнего храма. В октябре 1992 года при храме начала действовать воскресная школа, которая со временем получила лицензию епархиального отдела религиозного образования и катехизации.
