Название «Шубино» связано с именем воеводы Иакинфа (Акинфа) Фёдоровича Шубы, который, согласно Софийскому временнику, имел двор около Тверской улицы и основал здесь церковь своего имени с приделом во имя святых Космы и Дамиана. Первое упоминание о церкви датируется 1368 годом.
В архивных документах 1625 года упоминается деревянный храм с приделами Николая Чудотворца и священномученика Поликарпа. В апреле 1626 года церковь сгорела во время пожара, и на её месте начали строительство нового каменного храма. Главный престол был освящён во имя Благовещения Пресвятой Богородицы, а престол во имя Космы и Дамиана до 1858 года располагался в трапезной части.
В 1657 году в Описной книге церквей Белого города отмечается: «церковь Козмы и Дамиана, что на Шубине, каменная, а мерою под церковь земли и кладбища в длину 19 сажень поперёк 19 же сажен и то кладбище пространно… огорожено надолбами изретка». В 1680 и 1683 годах в храме дважды служил патриарх Иоаким.
В 1703 году началась капитальная перестройка храма, прерванная в 1714 году указом о запрете каменного строительства в Москве. Работы возобновились в 1722 году и завершились к середине XVIII века. В 1773 году храм пострадал от пожара и был восстановлен к 1785 году.
Во время Отечественной войны 1812 года храм не пострадал, несмотря на то, что у его стен французские солдаты производили казни подозреваемых в поджогах москвичей. В 1821–1824 годах под руководством архитектора Александра Элькинского был построен северный придел во имя Воскресения Словущего, перестроены апсиды и колокольня. В 1840–1842 годах, благодаря усилиям церковного старосты, купца В. И. Борисовского, было улучшено внутреннее убранство храма и установлен трёхъярусный иконостас с колоннами.
В 1857–1858 годах на средства А. В. и И. В. Борисовских была сооружена новая колокольня в северо-западном углу здания, а на месте старой колокольни построена паперть. Тогда же был возведён южный придел с престолом во имя святых Космы и Дамиана.
Среди прихожан храма были представители знатных родов: князья Гагарины, Урусовы, Одоевские, Сонцевы-Засекины, а также дворяне Чертковы, Мещеряковы, Дохтуровы, Тютчевы, Кожины. В 1910-х годах регентом хора храма был композитор Павел Чесноков. 8 марта 1916 года здесь отпевали художника Василия Сурикова.
В 1922 году из храма были изъяты ценности, а в 1929 году он был закрыт. В его стенах размещались хранилище Библиотеки иностранной литературы, а затем типография Министерства культуры СССР. В 1933 году колокольня была частично разрушена, а к зданию пристроен жилой дом с рестораном «Арагви». В конце 1950-х годов планировался снос храма, однако в 1977–1979 годах были проведены реставрационные работы под руководством архитектора О. В. Череватой.
Летом 1991 года в храме возобновились богослужения. В 1997 году в церковь была возвращена храмовая икона святых Космы и Дамиана, ранее хранившаяся в соседнем храме Воскресения Словущего в Брюсовом переулке.
