Первоначально для строительства был выбран участок на Воробьёвых горах, и 12 октября 1817 года состоялась закладка храма по проекту архитектора Александра Витберга. Однако из-за сложных грунтовых условий и финансовых трудностей работы были приостановлены. В 1825 году проект был окончательно закрыт, а Витберг подвергся судебному разбирательству.
В 1831 году император Николай I поручил архитектору Константину Тону разработать новый проект храма в русско-византийском стиле. Для строительства было выбрано новое место на Волхонке, ранее известное как Чертолье. 10 сентября 1839 года состоялась торжественная закладка храма в присутствии императора и высших сановников.
Строительство продолжалось 44 года и завершилось в 1883 году. Высота храма от основания до креста составляла 103,5 метра, а толщина стен достигала 3,2 метра. В двойных стенах были размещены 177 мраморных мемориальных плит с описаниями событий войны 1812 года и заграничных походов 1813–1814 годов. Над росписью храма работали выдающиеся художники того времени, включая Василия Сурикова, Ивана Крамского, Генриха Семирадского и других.
5 декабря 1931 года храм был разрушен в ходе сталинской реконструкции Москвы для освобождения места под строительство Дворца Советов. Однако проект Дворца не был реализован, и на этом месте в 1960 году был построен открытый плавательный бассейн «Москва».