Храм Калужской иконы Божией Матери в Калуге связан с почитанием одноименной чудотворной иконы, явленной в 1748 году в селе Тиньково близ Калуги. Икона была обнаружена на чердаке дома помещика Василия Кондратьевича Хитрово служанками, одна из которых, Евдокия, осквернила образ, после чего была поражена болезнью, но исцелилась после молитв перед иконой. Событие положило начало почитанию образа как чудотворного.
Первоначально икона находилась в доме Хитрово, затем была перенесена в приходской храм Рождества Богородицы в селе Калужка. В 1771 году, во время эпидемии чумы, икону крестным ходом обнесли вокруг Калуги, после чего мор прекратился. В память об этом установлено празднование 2 (15) сентября. В 1812 году, во время Отечественной войны, икона была вывезена в Ефремов, но по молитвам перед ней Калуга избежала захвата французами, что зафиксировано в свидетельствах пленных солдат Наполеона. В честь этого события установлено празднование 12 (25) октября.
В XIX веке икона неоднократно переносилась между храмами. В 1813 году по указу Святейшего Синода она была помещена в строящийся Свято-Троицкий собор Калуги, но позднее возвращена в село Калужку по требованию наследников Хитрово. В 1868 году икону приносили в Оптину пустынь для молитв о выздоровлении старца Амвросия.
После революции 1917 года первоначальный образ был утрачен. Существуют две версии его дальнейшей судьбы: по одной, он находился в Троицком соборе, затем в краеведческом музее, а после войны передан Церкви; по другой — подлинник хранился в Свято-Троицкой Сергиевой лавре и в 1998 году передан Калужской епархии. В настоящее время в Калуге находятся несколько почитаемых списков иконы, один из которых пребывает в Свято-Георгиевском соборе, другой — в Троицком кафедральном соборе.
Храм Калужской иконы Божией Матери при архиерейском доме, упоминаемый в исторических источниках, был построен в 1875 году по проекту архитекторов В.К. Савельева, Л. Гриневского и Н.В. Сытина. Здание выполнено в эклектичном стиле с элементами русско-византийской архитектуры. В советский период храм был закрыт, а его здание использовалось для светских нужд. В постсоветское время храм не восстановлен в первоначальном статусе, богослужения в нём не проводятся.