В начале XX века в западной части Железноводска существовал небольшой молитвенный дом, служивший местом богослужений для православных верующих. В конце 1940-х годов, учитывая обветшание первоначального здания, было принято решение о его реконструкции. В результате, молитвенный дом был преобразован в полноценный храм, сохранивший свою функцию и продолживший служить местной общине.
В 1988 году, учитывая растущий интерес и потребность в более просторном и современном храме, было решено построить новое здание. Строительство продолжалось с 1988 по 1989 год на средства, пожертвованные прихожанами Бакинской и Ставропольской епархий. Новый храм был освящен в 1989 году в честь святой равноапостольной великой княгини Ольги.
Архитектурный проект храма был разработан в 1988 году в творческой мастерской Кавминводской организации Союза архитекторов РСФСР (Кавминводархпроект). Авторами проекта стали отец Георгий (Ю.И. Новаковский) и главный архитектор Железноводска Н.Ф. Кисляков, конструктор — А.Г. Шинкарёв. Храм представляет собой кирпичное здание в стиле древнерусского зодчества, бесстолпный пятиглавый четверик с алтарем, притвором и отдельной надвратной звонницей.
Помимо основного здания, проект предусматривал создание архитектурного ансамбля, включающего звонницу, часовню, крестильню с кельями, а также благоустройство прилегающей территории и пешеходной дорожки, ведущей к храму. Однако к 1991 году эти планы не были реализованы.
В период с 1992 по 1995 год храм находился в юрисдикции Русской Православной Церкви заграницей, а затем перешел под управление Российской православной автономной церкви. Эти переходы были связаны с внутренними церковными разногласиями того времени. 26 сентября 2005 года, после серии судебных разбирательств, Федеральный арбитражный суд вынес решение о возвращении храма в ведение Ставропольской епархии Московского патриархата.
Восстановление полноценной церковной жизни потребовало проведения ремонтно-реставрационных работ. В кирпичном здании храма была отремонтирована крыша, обновлены купола, переоборудованы внутренние помещения и благоустроен прилегающий двор. Внутреннее убранство церкви отличается сдержанностью и благолепием. К середине 2008 года был установлен иконостас, выполненный в технике цветной эмали местным мастером, а окна были украшены витражами из разноцветного стекла.
На территории храма были расположены дополнительные постройки, включая крестильный храм, воскресную школу, церковную лавку, кухню и столовую. Также была сооружена звонница под изящной аркой, дополняющая архитектурный ансамбль.
