Впервые храм на этом месте упоминается в 1625 году. В 1700–1702 годах по благословению патриарха Адриана был возведён новый каменный храм в стиле московского барокко. Главный престол нового храма освятили в честь иконы Божией Матери «Знамение», а старый престол апостолов Петра и Павла разместили с северной стороны в тёплом зимнем приделе. В 1731 году в южной части тёплого храма был устроен придел в честь Казанской иконы Божией Матери, и с этого времени храм стал трёхпрестольным.
В 1748 году храм пострадал от пожара, но был быстро восстановлен на средства прихожан. В 1771 году была построена новая трёхъярусная колокольня. В 1812 году храму удалось избежать серьёзных повреждений во время пожаров, однако дома священников и церковные постройки сгорели.
В 1874 году по высочайшему повелению сербам была дарована церковь святых Кира и Иоанна на Солянке для устройства подворья. Однако в 1918 году подворье было ликвидировано советской властью, а сама церковь в 1933 году разрушена.
В 1948 году, в ходе торжеств по случаю 500-летия автокефалии Русской Православной Церкви, храм Петра и Павла был передан Сербской православной церкви для устройства подворья. Однако по политическим причинам подворье не смогло начать свою деятельность.
В 1999 году, согласно указу патриарха Алексия II, храм был преобразован в патриаршее подворье, при котором было вновь открыто представительство Сербской православной церкви.
