Особенностью монастыря являются пещерные храмы, вырубленные в меловых горах, происхождение которых вызывает различные гипотезы среди исследователей.
Согласно одной из версий, пещерные храмы были созданы в период VIII–X веков христианами, бежавшими от гонений иконоборцев в Византии. Эта гипотеза основывается на сходстве меловых подземных монастырей Костомарова с древними пещерными сооружениями Каппадокии. Другая версия предполагает, что монастырь возник в середине XVII века, когда иноки-малороссы, переселившиеся в Донские степи вместе с приднепровскими казаками, основали здесь обитель. Однако первые письменные упоминания о Костомаровских пещерах относятся к концу XVIII – началу XIX века, что затрудняет точное датирование основания монастыря.
В период после революции 1917 года пещерные обители, включая Костомаровский монастырь, были закрыты. Несмотря на это, некоторые подвижники продолжали тайно проживать в пещерах. В 1946 году, по многочисленным просьбам верующих, было официально разрешено проведение богослужений в Спасской пещерной церкви. Однако в 1959 году, в ходе антирелигиозной кампании, храм вновь закрыли.
В июне 1997 года монастырь был возвращен Русской Православной Церкви и возобновил свою деятельность как женский. С этого времени начались работы по восстановлению пещерных храмов и строительству новых наземных сооружений. В настоящее время на территории монастыря функционируют несколько храмов:
Спасский пещерный храм, главный алтарь которого освящен в честь Нерукотворного образа Спаса. Своды храма опираются на восемь четырехугольных колонн, делящих пространство на три части. Слева расположены переходы в придел мучениц Веры, Надежды, Любови и Софии, келью затворника, усыпальницу и часовню.
Пещерный храм во имя преподобного Серафима Саровского, заложенный в 1903 году и завершенный в конце XX века. Внутреннее убранство храма включает фрески и иконы, вырезанные непосредственно в меловых стенах.
Наземный храм во имя иконы Пресвятой Богородицы «Взыскание погибших», построенный в конце XX века. В этом храме хранится чтимая Костомаровская икона Божией Матери «Благодатное Небо», написанная на листе железа во второй половине XIX – начале XX века.
Кроме того, на территории монастыря находятся часовня в память блаженного священномученика Петра (Еремеенко), пещера покаяния и поклонный крест на горе Голгофа. Окрестности монастыря, с меловыми горами и скудной растительностью, напоминают пейзажи Синайской пустыни, что обусловило появление топонимов, аналогичных Святой Земле: гора Голгофа, гора Фавор, поток Кедрон.
