В 1677 году на месте часовни была построена деревянная церковь во имя святителя Филиппа. К 1689 году она обветшала и была разобрана, а в 1691 году на её месте возвели каменный храм. В 1710 году в церкви был освящён придел во имя Алексия, человека Божия, который в 1750–1752 годах был перестроен в трапезную церковь. В этот же период была возведена колокольня.
В 1777 году настоятель храма Максим Дионисиев обратился к митрополиту Московскому Платону с прошением о реконструкции церкви из-за значительных повреждений, вызванных слабым фундаментом. Проект реконструкции был разработан архитектором Матвеем Фёдоровичем Казаковым, а руководство строительными работами осуществлял архитектор Семён Алексеевич Карин. Строительство продолжалось десять лет, и в 1788 году обновлённый храм был освящён. Первоначально предполагалось, что церковь станет домовым храмом подворья митрополита Платона, однако этот проект не был реализован, и храм остался приходским.
В 1827 году к трапезной был пристроен придел во имя преподобного Сергия Радонежского. В XIX веке рядом с храмом были возведены дома для церковнослужителей. В 1889 году на средства купца Н. Ф. Степанова при храме была построена богадельня, а в 1896 году открыта церковно-приходская школа. В приходе также функционировали Николаевский детский приют Московского благотворительного общества и городское начальное училище, в которых клирики храма исполняли обязанности преподавателей Закона Божия.
В 1939 году храм был закрыт. В конце 1940-х годов на месте домов священнослужителей была построена школа, а позднее, при строительстве спорткомплекса «Олимпийский», снесены остальные здания церковного ансамбля, за исключением самого храма, который был передан под использование госучреждениями.
В 1991 году здание храма было возвращено Русской Православной Церкви. 16 июля 1992 года патриарх Алексий II совершил освящение храма, после чего начались восстановительные работы. В 1994 году при храме началось строительство Сибирского подворья, и к 1997 году были построены часовня в честь просветителей Сибирских земель, представительский и паломнический корпуса.
Архитектурно храм представляет собой образец московского классицизма. В ходе реконструкции, проведённой по проекту Матвея Казакова, к трапезной и колокольне 1750–1752 годов была пристроена церковь-ротонда. Ротонда украшена наличниками, фризом и четырёхколонными ионическими портиками с лепниной, а венчает её лёгкий купол-фонарик. Интерьер храма в западной части украшают полукругом поставленные колонны большого ордера, в алтарной части аналогичный полукруг выполнен из колонн малого ордера.
