Предшественником современного храма была деревянная церковь, существовавшая на этом месте с XIV века. В 1514 году, под руководством итальянского архитектора Алевиза Нового, известного своими работами в Московском Кремле, была построена каменная церковь. Этот храм прославился чудотворной иконой святой Варвары, которая пользовалась особым почитанием среди москвичей.
В конце XVIII века, в период активного градостроительства, возникла необходимость в расширении и обновлении храма. С 1796 по 1801 годы, на средства майора артиллерии Ивана Барышникова и купца Николая Самгина, архитектор Родион Казаков спроектировал и построил новое здание церкви. Стиль классицизма, выбранный для строительства, придавал храму величественность и строгость.
Архитектурно, храм представляет собой вытянутое прямоугольное двухэтажное здание с оштукатуренными кирпичными стенами. Боковые фасады разделены лопатками на пять вертикальных прясел, что придает зданию стройность и гармонию. Колокольня, примыкающая к западному торцу, состоит из трёх равных по ширине четвериков с восьмериком и увенчана шатром. Особенностью является наличие двух высоких крыльцов, ведущих во второй этаж, что является редкостью для московской архитектуры того времени.
В 1812 году, во время Отечественной войны, храм пострадал от пожара и мародёров. Однако благодаря усилиям прихожан и благотворителей, восстановление было завершено в 1820-х годах. Существует городская легенда, что французы использовали храм как конюшню, но архитектурные особенности здания, такие как узкие лестницы и высокий цоколь, делают это маловероятным.
В начале XX века, в 1920-е годы, храм был закрыт и подвергся значительным изменениям: разобран верхний ярус колокольни, уничтожены купола, внутреннее убранство и иконостас. Помещения использовались для хозяйственных нужд, что привело к утрате многих исторических элементов.
В 1965–1967 годах, при подготовке к строительству гостиницы «Россия», была проведена реставрация храма под руководством архитектора Георгия Макарова. Колокольня была восстановлена, и внешний облик храма был приведён в порядок. В 2007 году, в ходе археологических раскопок, был обнаружен фундамент первоначальной церкви Алевиза Нового.
В 2014–2015 годах была проведена очередная реставрация, целью которой было восстановление облика храма 1880-х годов. Работы включали восстановление штукатурки фасадов, реставрацию лепного декора и воссоздание завершения колокольни и крестов на основе старых фотографий.