Предположительно, приход, известный как Никитский, существовал в Мценске уже в XVI веке. В переписной книге города за 1625 год упоминается деревянная Никитская (Мироносицкая) церковь: «Церковь Святых жен Мироносиц да Никиты святого Мученика древеная клецки, а в них Божия милосердия образы местные, книги и ризы и колокола и всякое церковное строенье» .
В 1757 году, вместо обветшавшей деревянной церкви, была построена каменная. Однако, из-за близости к реке, она быстро пришла в негодность. В начале XIX века, на средства купца Ивана Никитича Барыкова, на новом месте, выше старого на квартал, началось строительство нового каменного храма, превосходившего по размерам все остальные церкви города. Строительство было завершено в 1818 году .
Автором проекта храма стал известный русский архитектор, профессор Петербургской Академии художеств Авраам Иванович Мельников. Он также проектировал Спасо-Преображенский собор в Рыбинске и Императорское училище правоведения в Санкт-Петербурге .
Храм имел три престола: главный холодный — Воздвижения Креста Господня, в теплой трапезной — во имя Святых жен-мироносиц (справа) и Святого великомученика Никиты (слева) . Благодаря богатому внутреннему убранству и значительной вместимости, превосходившей старый городской собор, Крестовоздвиженская церковь вплоть до 1840-х годов выполняла функции соборной, пока не был окончен новый собор во имя Святителя Николая Чудотворца.
В январе 1826 года, во время транспортировки тела императора Александра I из Таганрога в Санкт-Петербург, гроб с телом монарха находился в храме с 23 по 25 января. В память об этом событии членами царской фамилии храму было поднесено паникадило, а внутри церкви установлена памятная доска .
В 1897 году храм был капитально отремонтирован. С 1899 года при нем начала функционировать церковно-приходская школа, размещавшаяся в собственном деревянном здании .
В 1930 году церковь была закрыта. Во время Великой Отечественной войны, в результате авиабомбардировки, были разрушены своды трапезной. В 1960 году здание храма было поставлено на государственную охрану, однако городские власти предпринимали попытки его сноса под предлогом ветхости. В 1973 году обрушился шпиль колокольни. С 1976 года в храме периодически проводились реставрационные работы, которые прекратились к началу 1990-х годов .
