Первое письменное упоминание о деревянном храме святого Георгия относится к 1460 году. Церковь находилась «у Коровьей площадки», где торговали крупным рогатым скотом, чьим покровителем считался святой Георгий. Со временем, после переноса торговли скотом, местность стала именоваться «у Старой Коровьей площадки», а затем «на Лубянке».
В начале XVII века деревянный храм был заменен каменным. Существующее здание было построено на средства купца Григория Никитича Романова в 1692–1694 годах. Архитектурно храм представляет собой двухъярусный четверик, увенчанный пятью главами, трапезную и двухъярусную колокольню. Колокольня, завершенная шатром, является одним из первых в Москве сооружений подобной конструкции. Вокруг церкви была устроена галерея-гульбище, разобранная, вероятно, в 1848–1862 годах; до сих пор сохранилась белокаменная лестница, ведущая на гульбище из-под колокольни.
В 1812 году, во время оккупации Москвы французскими войсками, храм пострадал от пожара. В 1825–1829 годах были проведены восстановительные работы: храм был отремонтирован и расписан заново. В эти годы на месте галереи были выстроены приделы нижней Георгиевской церкви — во имя преподобного Нила Столобенского и преподобного Феодора Сикеота, а также перестроена апсида храма. К 1862 году храм приобрел вид, близкий к современному.
После установления советской власти храм был закрыт в 1932 году. Снесены кресты, разобраны главы, барабаны и шатер колокольни, заложен главный вход, уничтожены иконостасы и росписи стен. Настоятель храма, протоиерей Владимир Лубянский (Проферансов), прослуживший в церкви около 30 лет, был арестован, сослан в ссылку и расстрелян в 1937 году. В здании разместилось общежитие НКВД, а затем — обувная фабрика КГБ. К середине 1980-х годов комплекс пришел в аварийное состояние.
После распада СССР храм был возвращен Русской Православной Церкви в 1993 году и позднее отреставрирован. В 2000 году на храм был установлен вызолоченный крест (копия исторического креста). Первым был восстановлен верхний Благовещенский храм, к 2001 году. К 2005 году был восстановлен главный иконостас нижнего храма. Работы по реставрации продолжаются и по сей день.