Храм Вознесения Господня за Серпуховскими воротами был основан в 1696 году, когда Данилов монастырь пожертвовал участок земли за Серпуховскими воротами Земляного города для строительства церкви. Первоначально был возведен деревянный храм во имя Вознесения Господня с приделом Девяти мучеников Кизических. Придел освятили вскоре после постройки, а главный престол — в 1700 году.
В начале XVIII века деревянный храм перестал вмещать всех прихожан, и было принято решение о строительстве каменного здания. Указ на строительство был выдан 12 сентября 1709 года, средства выделил царевич Алексей Петрович, сын Петра I. Строительство началось под руководством архитекторов Доменико Трезини, Ивана Мичурина и Дмитрия Ухтомского. К 1714 году был освящен нижний храм во имя Иерусалимской иконы Божией Матери с приделами Девяти мучеников Кизических и Алексия Человека Божия. Верхний храм Вознесения Господня был построен до середины окон, но строительство приостановилось после опалы и смерти царевича Алексия в 1718 году.
Строительство возобновилось в середине XVIII века благодаря пожертвованиям прихожан. Верхний Вознесенский храм был завершен и освящен в июле 1762 года. В 1830—1840-х годах храм подвергся значительным перестройкам: была сооружена трапезная, достроена колокольня до четырех ярусов со шпилем.
В 1929 году храм был закрыт советскими властями. Его архитектурный облик серьезно пострадал: были разобраны барабан и глава храма, колокольня и ограда. Здание использовалось для различных хозяйственных нужд. В 1990 году храм был возвращен Русской Православной Церкви, и 23 сентября того же года возобновились богослужения. С 1991 года начались реставрационные работы, в ходе которых были восстановлены колокольня, барабан и глава храма.