В 1896 году на средства жителей посёлка Грязи была построена деревянная церковь, освящённая в честь Честного Животворящего Креста Господня. Этот храм имел один престол и стал центром духовной жизни местного населения, состоящего преимущественно из служащих Юго-Восточной железной дороги. Приход был официально открыт в 1899 году, охватывая 353 двора и население более 2400 человек, включая жителей деревни Дмитриевка и работников маслозавода Улановых. При храме действовали двухклассная церковно-приходская школа для мальчиков и одноклассная земская школа для девочек. Штат церкви включал двух священников, диакона и двух псаломщиков. В советский период храм был разобран.
В 2004 году в городе Грязи началось строительство нового храма Воздвижения Креста Господня. К 2005 году был построен молитвенный дом, в котором стали проводиться богослужения. Новый храм расположен по адресу: улица Крылова, 7.