Первое упоминание о деревянной церкви Покрова Пресвятой Богородицы «на рву» относится к 1626 году. В описи города она указана как двупрестольная церковь Всемилостивейшего Спаса и Покрова Святей Богородицы. Внутреннее убранство храма описывалось как богатое, включая царские врата, местные иконы в серебряных окладах, деисус и напрестольный крест.
Каменный храм был возведен в 1685–1687 годах на месте обветшавшей деревянной церкви, от которой сохранился лишь каменный столб с иконами. Архитектурный стиль сооружения соответствует русскому узорочью. В плане храм представляет собой одноэтажный пятиглавый четверик с трапезной и колокольней. Особенностью декора являются наличники из лекального кирпича с колонками и фронтончиками, а также ряд декоративных кокошников под кровлей.
В XVIII веке храм пострадал от пожаров, что привело к перестройке пятиглавия и завершения колокольни. В 1823 году рядом с церковью была сооружена каменная часовня. В 1894 году в храм перенесли чудотворную икону Петровской Божией Матери, ранее принадлежавшую купцам Сапожниковым.
В 1930 году храм был закрыт и впоследствии использовался как инкубаторная станция. В 1960 году здание получило статус памятника архитектуры республиканского значения. В 1990 году его передали Калужскому музыкальному обществу, а в 1994 году возвратили Калужской епархии. Повторное освящение главного престола состоялось 15 марта 1998 года.
Храм имеет два престола: главный — в честь Покрова Пресвятой Богородицы и придельный — во имя мученика Иоанна Воина. В архитектурном отношении он сохранил черты XVII века, включая бесстолпную конструкцию, сомкнутые своды и трехчастный алтарь. Колокольня, изначально шатровая, была перестроена в классицистическом стиле в XIX веке.
