Храм Казанской иконы Божией Матери в селе Мордовская Карагужа был построен в 1904 году на средства прихожан. Село входило в состав Ново-Спасской волости Хвалынского уезда Саратовской губернии. Первое упоминание о селе относится ко второй половине XVIII века, когда оно было основано мордовскими переселенцами из деревень Найман и Славкино. Население села составляли преимущественно бывшие государственные крестьяне мордовского происхождения.
Церковь была возведена в традициях деревянного зодчества с колокольней и одним престолом, освященным во имя Казанской иконы Божией Матери. К приходу был приписан хутор Илюшкинский. В 1906 году при храме открылась церковно-приходская школа. По данным 1911 года, приход насчитывал 287 дворов с 1935 жителями, преимущественно православного вероисповедания.
В период гонений на Церковь в XX веке храм был закрыт, но в годы Великой Отечественной войны богослужения возобновились по просьбе местных жителей. В 1968 году храм был окончательно закрыт, купола и колокола сняты. Здание сохранилось, но находится в полуразрушенном состоянии: отсутствуют кровля и перекрытия, утрачены купола. На стенах частично сохранились фрески.
В 1999 году храм был поставлен на государственную охрану как объект культурного наследия регионального значения. В 2013 году зарегистрирован приход, однако вопрос о восстановлении исторического здания или строительстве нового храма остается открытым. Комитетом Ульяновской области по культурному наследию проводилась историко-культурная экспертиза для включения объекта в реестр памятников.