Храм Всех Святых в городе Саров был построен в 1832-1834 годах как кладбищенская церковь для отпевания монахов и паломников Свято-Успенского мужского монастыря — Саровской пустыни. Здание выполнено в классическом архитектурном стиле и первоначально располагалось за территорией монастыря. 3 июля 1834 года храм был освящен епископом Тамбовским и Шацким Арсением.
В 1860 году церковь и прилегающее Всехсвятское кладбище были обнесены каменной оградой. В начале 1890-х годов к храму пристроили южный притвор, а само здание сделали «теплым» (зимним). В этот период храм использовался для регулярных богослужений, особенно в холодное время года.
В советский период храм был закрыт и подвергся значительным изменениям. В 1927 году, после закрытия Саровской пустыни, здание использовалось как столовая для колонистов, а во время Великой Отечественной войны было переоборудовано под магазин. После 1946 года в помещении храма располагался ресторан, а затем хозяйственный магазин.
12 июля 1992 года здание храма было возвращено Русской Православной Церкви. 6 февраля 1993 года митрополит Нижегородский и Арзамасский Николай (Кутепов) совершил чин освящения храма. Это стало первым случаем возрождения православного храма в Сарове после 66-летнего периода закрытия.
Архитектурной особенностью храма является сохранившаяся роспись купола, выполненная в технике гризайль художниками арзамасской Ступинской школы. Роспись изображает сцену из 4-й главы Апокалипсиса (Откровения Иоанна Богослова) — Сидящего на престоле Вседержителя в окружении 24 старцев и четырех апокалиптических животных. Данная композиция не имеет известных аналогов в русской храмовой росписи.
В храме находятся святыни: часть камня, на котором молился преподобный Серафим Саровский, часть гроба святого праведного Лазаря Четверодневного, антиминс храма Саровской пустыни и иконы, подаренные Иверским монастырем на Афоне.
