Первое упоминание о церкви на этом месте датируется 1685 годом, когда она значилась как деревянная постройка. В 1735 году на её месте был возведён каменный храм в стиле аннинского барокко. В 1754 году город Калуга подвергся крупному пожару, в результате которого храм сильно пострадал; были утрачены вся утварь и иконы, за исключением образа Иоанна Крестителя. В 1763 году здание было восстановлено и расширено, в нём были построены два боковых придела во имя Сергия Радонежского и святых мучеников Гурия, Самона и Авива, а стены расписаны живописью. К храму пристроена трёхъярусная колокольня, являющаяся самой ранней в Калуге из колоколен такого типа.
В 1890—1899 годах в здании проведён серьёзный ремонт: проведено духовое отопление; положен паркет (в приделах — дубовый, в алтарях — каменный); семиярусный иконостас переписан на новом полотне и старых досках по рисункам художников Васнецова, Нестерова, Маковского и Сорокина; стены церкви, оконные откосы, борта и рамы вокруг стенных изображений покрыты искусственным мрамором разных цветов; пол выстлан метлахскими плитками. На месте старой стенной живописи написаны новые картины, представляющие собой копии с изображений в храме Христа Спасителя в Москве и во Владимирском соборе в Киеве.
В 1929 году храм был закрыт, а в середине 1950-х годов была разобрана алтарная часть, выходящая на Московскую улицу, как «мешавшая проезду автотранспорта». В 1995 году храм был возвращён Калужской епархии. Во время расчистки из храма вывезли значительное количество мусора: в советское время в одной части храма находился продовольственный склад, а в другой — культпросветучилище с этажами и классами. Реставрацию начали с крыши — при осмотре здания выяснилось, что в крыше отсутствовали несущие балки: они были спилены на дрова в годы войны.
