Первая деревянная церковь в селе Мордово была построена в 1861 году на средства прихожан. В 1858 году пожар уничтожил бо́льшую часть деревянных построек села, включая церковь. В 1879 году был утверждён план новой деревянной церкви, которую освятили в 1884 году в честь Вознесения Господня. Однако небольшая деревянная церковь не вмещала всех прихожан, и было принято решение о строительстве нового храма. Строительство кирпичной церкви началось во второй половине XIX века и завершилось в 1909 году. Проект храма был утверждён губернскими архитекторами А.Ф. Миролюбовым и Ф.А. Свирчевским. Храм представляет собой монументальное пятикупольное строение с шатровыми главами, тремя полукруглыми алтарными апсидами и трёхъярусной колокольней. Здание храма вмещает до 5000 человек и является одним из крупнейших в Тамбовской области.
Внутреннее убранство храма включает уникальный четырёхъярусный фарфоровый иконостас, изготовленный на императорском заводе в Петербурге и доставленный в Мордово из Ново-Иерусалимского монастыря в 1890 году. Иконостас является главным украшением храма и достопримечательностью края. Его элементы декора характерны для архитектуры классицизма, барокко и русского зодчества. Роспись стен в интерьере храма выполнить не удалось из-за начавшейся вскоре Первой мировой войны.
В 1939 году храм был закрыт и использовался в качестве зернохранилища. Во время Великой Отечественной войны в храме размещался госпиталь. В 1945 году здание храма было возвращено верующим. Тогда Тамбовской епархией управлял архиепископ Лука (Войно-Ясенецкий). Храм реставрировался к 1000-летию Крещения Руси. В 1993 году Патриарх Московский и всея Руси Алексий II посетил Михаило-Архангельский храм и совершил в нём Божественную Литургию.
С 2020 года ведутся ремонтные работы по обновлению крестов и куполов храма при финансовой поддержке благотворителей. В 2024 году на храме были установлены новые купола и кресты, покрытые нитридом титана. Шатровые главы мордовской святыни — золотисто-зелёные. При ремонте кровли учитывается заложенный старинный колорит.
