Село Сухой Карабулак было основано в середине XVIII века, предположительно в 1748 году, мордовскими переселенцами. В 1773 году в селе была построена первая деревянная церковь, освящённая в честь Казанской иконы Божией Матери. К 1828 году деревянный храм обветшал, и на его месте была возведена новая деревянная церковь.
В 1860 году, по инициативе и на средства местного землевладельца князя Владимира Алексеевича Щербатова, была построена каменная однопрестольная церковь с каменной колокольней, также посвящённая Казанской иконе Божией Матери. Князь Щербатов, занимавший пост саратовского губернатора с 1863 по 1869 год. В штате причта храма состояли священник и псаломщик; для священника был предусмотрен общественный дом, для псаломщика — церковный. Приход также включал церковную школу.
В 1897 году, по инициативе княгини Марии Афанасьевны Щербатовой, супруги князя Владимира Алексеевича, был проведён капитальный ремонт храма с установкой новых крестов. Работами руководил управляющий экономией Канищев. Торжественное завершение реконструкции состоялось 14–15 июля 1897 года и было отмечено всенощным бдением, крестным ходом, освящением и поднятием крестов.
В советский период храм был закрыт, его внутреннее убранство разграблено, а здание частично разрушено: были утрачены колокольня и купол. В помещении церкви размещалась столовая сельскохозяйственной артели, что способствовало дальнейшей деградации сооружения.
В 2001 году православный приход в селе был восстановлен. 9 июня 2002 года, по благословению архиепископа Саратовского и Вольского Александра, в историческом здании храма была совершена первая Божественная литургия. В последующие годы проводились работы по восстановлению храма: в 2021 году была освящена малая звонница, в мае 2022 года — крест и купол храма, после чего был установлен центральный купол и заменена кровля.
