Первая церковь во имя Казанской иконы Божией Матери была построена внутри Царицынской крепости в начале XVIII века. Это была деревянная церковь, которая, по всей вероятности, сгорела. В 1709 году упоминается священник Фёдор Дмитриев, обратившийся к астраханскому митрополиту с просьбой посвятить в попы дьякона Алексея Игнатьева для служения в этой церкви.
На нынешнем месте, близ ветряных мельниц во второй части города, ранее стояла деревянная часовня. В 1894 году епископ Саратовский и Царицынский Николай (Налимов) осмотрел место для нового храма. Закладка состоялась 29 августа того же года. Строительство велось на средства прихожан как кладбищенская церковь на Дар-горе. Автором проекта стал саратовский архитектор Михаил Николаевич Грудистов, взявший за основу храм Александра Невского при русском посольстве в Париже. Освящение храма состоялось 23 августа 1899 года епископом Иоанном (Кратировым).
В 1904 году к основному объёму церкви были пристроены трапезная и колокольня. В 1912 году приход насчитывал 6306 прихожан, включая 20 инославных, 56 старообрядцев и 50 сектантов. После революции 1917 года из храма была изъята большая часть ценностей. В 1920-е годы он оставался действующим, но в 1939 году был закрыт и переоборудован в хлебозавод.
Во время Сталинградской битвы здание серьёзно пострадало. В декабре 1942 года немецкие войска провели в нём рождественский молебен. В апреле 1946 года сохранившееся здание было передано верующим. Первая служба после восстановления состоялась на Вербное воскресенье 1946 года. В 1954 году храм получил статус соборного. В 2005–2010 годах проведена масштабная реставрация, включавшая восстановление шатровых куполов и внутреннего убранства.