Первоначально, согласно описи 1626 года, в Калуге существовала деревянная церковь Николая Чудотворца, располагавшаяся на городской площади в пределах крепостных стен. В описи 1685 года она упоминается как находящаяся северо-восточнее Троицкого собора. В связи с перепланировкой центра города, инициированной губернским архитектором Петром Романовичем Никитиным после присвоения Калуге статуса губернского города, в 1775–1779 годах церковь была перенесена на новое место в Козьей Слободке, ныне известной как Николо-Козинская улица.
В 1844 году к церкви была пристроена новая трёхъярусная колокольня по проекту архитектора П. Н. Текферда, увенчанная крупной луковичной главой. В это же время трапезная была расширена двумя приделами: Тихвинским и во имя святителей Московских Петра, Алексия, Ионы, Филиппа и Ермогена. В 1848 году при храме открылась церковно-приходская школа. В 1899–1900 годах, на средства Ф. А. Извекова, были проведены ремонтные работы трапезной и обновлена роспись стен храма.
Архитектурно храм представляет собой образец провинциального классицизма. Основное здание имеет кубическую форму и покрыто четырёхскатным полукруглым шатром. Двухсветный четверик, перекрытый крестовым сводом и увенчанный одной главой, соединяется с пониженным объёмом алтаря, имеющим широкую апсиду и полуциркульный свод с боковыми разгрузочными арками. Алтарь отделён от храма глухой каменной стеной с тремя арочными проходами. Трапезная и колокольня выполнены в стиле эклектики. Колокольня трёхъярусная, массивная, завершается крупной луковичной главой.
Главный престол храма освящён во имя святителя Николая, а приделы посвящены Тихвинской иконе Божией Матери и святителям Московским. Иконостас был сооружён в конце XVIII века и обновлён во второй половине XIX века.
В советский период храм подвергся закрытию в 1935 году и использовался как зернохранилище. В 1939–1941 годах здание занимала обновленческая кафедра. После повторного закрытия в 1942 году, храм был возвращён верующим в 1945 году и возобновил свою деятельность.
