В 1917 году в центре Железноводска, вблизи Островских ванн, был возведён каменный храм во имя Покрова Божией Матери. Однако в 1930-х годах, в период антирелигиозной политики советского государства, с храма были сняты кресты и колокола, а здание переоборудовано под кинотеатр. В 1936 году церковь была окончательно разрушена, и на её месте впоследствии был разбит сквер с памятником, посвящённым погибшим за установление советской власти в городе.
Современное здание храма изначально было построено в 1912 году по проекту архитектора А.И. Кузнецова для нужд «водяного общества» — организации, обслуживавшей приезжающих на Кавказские Минеральные Воды для лечения. Позднее здесь были устроены «Новые ванны», которые со временем прекратили свою деятельность и длительное время не использовались. В 1996 году здание было передано администрации города под устройство церкви.
Переоборудование здания под храм включало установку креста над куполом. 21 сентября 1996 года, в праздник Рождества Пресвятой Богородицы, состоялось освящение главного престола. В 2002 году над церковью был установлен купол, что придало зданию более выраженный облик православного храма.
Внутри храм хранит несколько почитаемых святынь: икону Покрова Пресвятой Богородицы, датируемую концом XVIII — началом XIX века; Владимирскую икону Божией Матери, которая ранее находилась в разрушенном храме и была сохранена одной из прихожанок, а затем возвращена в церковь в начале 1990-х годов; а также икону преподобного Феодосия Кавказского с частицей его мощей.
