Он возведён на месте, где ранее находился Митрофановский монастырь, один из значимых религиозных центров Воронежской губернии.Монастырь был основан в честь святителя Митрофана, первого епископа Воронежского (1623–1703), и представлял собой архитектурный ансамбль, формировавшийся с конца XVIII века.В настоящее время от монастыря сохранился лишь источник, известный как Митрофановский.
В 1993 году участок земли с источником был передан Воронежской епархии. Были проведены работы по благоустройству территории: выложена купальня из красного кирпича, построены кабинки для переодевания, оборудовано место для набора воды. Осенью 1998 года началось строительство храмового комплекса с купелями во имя святителя Митрофана по проекту архитектора А.Г. Федорца. 3 ноября 2001 года было освящено строительство храма. 15 июля 2006 года митрополит Воронежский и Борисоглебский Сергий освятил первый крест на куполе боковой башни, а 25 мая 2008 года — крест на центральном куполе храма.
Храмовый комплекс выполнен в стиле петровского барокко и имеет форму каре, в центре которого расположен вместительный открытый двор, окружённый галереями и церковными постройками. Комплекс четырёхкупольный: центральный купол над храмом, два купола на боковых башнях и один — над колокольней. Одноярусная колокольня расположена над входом во внутренний двор. В правом крыле храма устроены мужские и женские купальни. Источник с открытыми купелями располагается с внешней стороны храма на улице. Высота храма составляет 32 метра, высота колокольни — 16 метров. Земельный участок храма занимает площадь 0,166 гектара.
20 августа 2009 года, в день обретения мощей святителя Митрофана, в храме была совершена первая Божественная литургия. 31 декабря 2017 года состоялось Великое освящение новопостроенного храма на источнике во имя святителя Митрофана, первого епископа Воронежского.