В 1856 году нижегородские благочинные обратились к епископу Иеремии с предложением о возведении храма в данном районе. Епископ поддержал инициативу и обратился к военному губернатору Ф. В. Анненкову с просьбой определить место для строительства. Совместно с представителями строительной комиссии и духовенства было выбрано пересечение улиц Немецкой и Канатной. 5 октября 1856 года, в день памяти трёх московских митрополитов — Петра, Алексия и Ионы, епископ Иеремия освятил место закладки храма, что предопределило его посвящение.
Проектирование храма было поручено архитектору Н. И. Ужумедскому-Грицевичу. В апреле 1859 года состоялась закладка фундамента, а к концу 1860 года строительство было завершено. 11 декабря 1860 года епископ Нектарий освятил главный престол в честь святителей Московских, 14 декабря — правый придел во имя апостола Иасона и Николая Чудотворца, 16 декабря — левый придел во имя евангелиста Луки и преподобномученика Андрея Критского.
Архитектурно храм представляет собой каменное пятиглавое сооружение с трёхапсидной алтарной частью и шатровой колокольней над западным входом, выполненное в русском стиле. Фасады были оштукатурены и побелены, крыша и главы окрашены в зелёный цвет, кресты изготовлены из дуба и обиты белым железом. Внутреннее убранство включало три резных иконостаса, своды были расписаны фресками, а стены украшены холстами с изображениями святых. На колокольне размещалось семь колоколов.
После революции 1917 года храм был закрыт, а его помещения использовались под общежитие. С конца 1970-х годов здание пустовало. В 1997 году храм был передан Свято-Троицкому Серафимо-Дивеевскому монастырю, и на его подворье началась реставрация. 11 июня 2004 года епископ Нижегородский и Арзамасский Георгий совершил чин освящения главного придела во имя святителей Московских. В 2005 году были освящены правый и левый приделы.
В марте 2010 года завершены работы по росписи интерьеров. Художниками иконописной мастерской «Ковчег» за два года были расписаны три придела общей площадью 1000 м², отражающие иконографию московской школы XV—XVI веков и сюжеты из житий святителей Московских.
