В XVI–XVII веках местность, где расположен храм, была известна как урочище «Старые Паны». Здесь находился польский панский двор — торговое и дипломатическое представительство Польши в Москве, впервые упоминаемое в 1508 году. Рядом с ним располагалась слобода патриарших певчих, что обусловило второе название храма — «в Певчей слободе» или «в Старой Певчей».
Первая деревянная церковь во имя святых Космы и Дамиана была построена в 1462 году на пересечении дорог, ведущих из Занеглименья и Заяузья к Боровицкому холму. После пожара 1564 года на её месте возвели каменный храм, представлявший собой двухсветный четверик, увенчанный пятью главами. Согласно преданию, в этом храме венчался царь Иван Грозный с шестой супругой Василисой Мелентьевой.
В 1640 году, когда церковь оказалась на территории слободы патриарших певчих, к ней с северной стороны был пристроен Успенский придел. С этого времени храм стал называться также церковью Успения Пресвятой Богородицы в Старой Певчей.
В 1803 году здание храма подверглось значительной перестройке в стиле классицизма. Были возведены новая трапезная и колокольня, придавшие храму новый облик. В 1890-х годах по проекту архитектора Андрея Стратилатова рядом с храмом был построен доходный дом, в котором размещались квартиры, магазины и церковная библиотека. В 1911–1912 годах здание было перестроено архитектором Павлом Висневским.
В советский период храм был закрыт. В 1926–1927 годах архитектор Дмитрий Сухов провёл реставрацию здания, в ходе которой были восстановлены двухшатровое завершение, древние формы порталов и наличников. Однако при строительстве здания «Промбанка» были снесены колокольня и трапезная. В 1931 году храм подвергся значительным разрушениям: разобрана апсида, сняты шатры, сбиты лепнина и отделка, заложен портал, а на месте западной части храма построено новое здание. В последующие годы в помещении храма размещались различные учреждения, включая Отдел регулирования уличного движения (ОРУД) ГАИ.
В 1995 году храм был возвращён Русской Православной Церкви. В 2000–2001 годах северный придел, выходящий на Старопанский переулок, был восстановлен архитекторами Борисом Левянтом и Владимиром Павловым, которые в основном следовали проекту Дмитрия Сухова. В настоящее время в храме регулярно проводятся богослужения.
