С началом 1990-х годов, в период возрождения православных традиций в России, жители Ростова-на-Дону обратились к городским властям с просьбой о восстановлении разрушенной святыни. В результате было принято решение о строительстве нового храма на участке, выделенном в сквере имени Серго Орджоникидзе. 28 марта 1997 года официально образован православный приход в честь иконы Божией Матери «Умиление». Название храма было утверждено на первом собрании прихожан. На время строительства богослужения проводились в арендованном помещении производственного цеха, расположенного вблизи сквера.
25 марта 1998 года, по благословению архиепископа Ростовского и Новочеркасского Пантелеимона, состоялась закладка первого камня в основание нового храма. К 23 марта 2004 года на храме были установлены золотые купола, что ознаменовало завершение основных строительных работ. 10 августа 2005 года в стенах храма начались первые богослужения.
3 августа 2008 года митрополит Ростовский и Новочеркасский Пантелеимон совершил Великое освящение храма во имя иконы Божией Матери «Умиление».
В 2017 году при храме было организовано сестричество милосердия во имя святителя Николая Чудотворца, целью которого является оказание помощи раненым воинам и выполнение различных послушаний в храме. За прошедшие годы храм стал значимым духовно-просветительским центром для жителей города.
Архитектурно храм представляет собой кирпичное здание с шатровой колокольней, что соответствует традициям православного храмового зодчества.
