Первая Покровская церковь в селе Мордовский Карай была построена в 1870 году на средства прихожан и освящена 2 июня 1872 года. Храм был деревянным, однопрестольным, с колокольней. В состав храмового комплекса входили кирпичная сторожка и кладовая. При церкви с 1875 года действовало церковно-приходское попечительство. 6 ноября 1886 года в сторожке была открыта церковно-приходская школа.
В годы советской власти деревянный храм был утрачен. В 2003 году началось строительство нового храма на том же месте. Финансовая и материальная помощь была предоставлена губернатором Саратовской области, благотворительным фондом «Возрождение», администрацией Романовского района и другими организациями. Новый храм, также деревянный и однопрестольный, был освящен 20 января 2008 года епископом Саратовским и Вольским Лонгином.
В XIX веке приход храма насчитывал более 3000 человек. В селе также действовала земская школа. Штат причта включал священника, диакона и псаломщика. В исторических документах отмечается, что утвари в храме было достаточно для совершения богослужений.
