Церковь Казанской иконы Божией Матери в селе Гремячее Навлинского района Брянской области была первоначально построена в 1770 году как деревянный храм с двумя приделами: главным в честь Казанской иконы Божией Матери и боковым во имя Богоявления Господня. Храм создавался на общественные средства после освобождения села от монастырской зависимости. В храме находилась особо чтимая древняя икона Казанской Божией Матери, перенесенная из Руженского храма, а также старопечатные книги - Евангелие 1650 года издания и Жития святых времен императрицы Елизаветы Петровны.
В 1815 году в храме был устроен дополнительный придел во имя Богоявления Господня, освященный по благословению епископа Орловского и Севского Досифея. В 1870 году приход отмечал столетний юбилей храма. В конце XIX века при храме действовала церковно-приходская школа в соседней деревне Сычевка. Последний капитальный ремонт храма проводился в 1900 году, когда был обновлен главный иконостас.
В 1930 году храм был официально закрыт советскими властями и превращен в зернохранилище. Церковное имущество было разграблено, колокол снят и отправлен в Навлю. Во время Великой Отечественной войны, в сентябре 1943 года, отступающие немецкие войска полностью разрушили храм. На месте храма остались только руины.
Новый храм-часовня в честь Казанской иконы Божией Матери был построен на историческом месте в 2013 году по благословению митрополита Брянского и Севского Александра. Первое богослужение в новом храме состоялось 4 октября 2013 года. Храм воссоздан в скромных архитектурных формах, соответствующих традициям православного храмостроительства.