Кладбище было основано в 1938 году на окраине города в лесном массиве, известном с XVII века под названием «пустошь Марьино».Согласно преданию, название местности связано с именем атаманши Марьи, промышлявшей разбоем на дороге, ведущей в Москву.
В 1996 году в ходе боевых действий в Чечне погибли десять сотрудников Волго-Вятского регионального управления по борьбе с организованной преступностью (РУБОП). В память о них их родственники и сослуживцы приняли решение о строительстве храма на территории кладбища «Марьина Роща». Инициативу возглавила В. А. Кудрявцева, мать одного из погибших военнослужащих.
В 1998 году был заложен первый камень в основание будущего храма. К концу 1999 года строительство было завершено, и храм был освящен с главным престолом в честь Всех Святых. На церемонии присутствовали представители областной и городской администрации, руководство Волго-Вятского РУБОП, родные и близкие погибших, а также жители Нижнего Новгорода.
Первоначально здание храма имело небольшие размеры с полезной площадью около 36 квадратных метров. В 2001 году, благодаря усилиям попечительского совета и поддержке спонсоров, к храму был пристроен притвор, расширена и соединена с основным зданием звонница, состоящая из восьми колоколов весом от 8 до 500 килограммов. Внутренние стены храма были украшены росписями на библейские сюжеты, а наружный фасад — керамическими иконами.
Архитектурно храм представляет собой традиционное православное сооружение с учетом современных строительных технологий и материалов. Здание выполнено в классическом стиле с элементами, характерными для русской православной архитектуры. Звонница, соединенная с основным объемом храма, гармонично дополняет его облик.
Храм Всех Святых стал не только местом духовного утешения для родственников погибших военнослужащих, но и важным центром православной жизни для жителей района. На его территории регулярно проводятся богослужения, памятные мероприятия и церковные праздники. Храм также служит местом поминовения всех воинов, павших в различных военных конфликтах.
