Каменный храм в честь Казанской иконы Божией Матери в селе Новоселки Брянского района был возведен во второй половине XVIII века на средства помещика Василия Александровича Небольсина. Он заменил обветшавшую деревянную церковь, упоминаемую среди храмов Брянского уезда, разоренных в Смутное время. Главный престол освящен в честь Казанской иконы Божией Матери, боковые приделы - в честь Владимирской иконы Божией Матери, святителя Николая Чудотворца и святителей Афанасия и Кирилла, архиепископов Александрийских.
В документах XVIII века храм первоначально упоминался как освященный во имя святителя Николая Чудотворца с приделом мучеников Флора и Лавра. Однако с XIX века за церковью закрепилось название Казанской. В XIX столетии к храму была пристроена трехъярусная колокольня, выполненная в классицистических традициях, что контрастировало с барочным оформлением основного объема.
В 1930-е годы в храме служил священник Василий Голенков, который был арестован в 1937 году и вскоре скончался в заключении. После его ареста храм был закрыт. Летняя часть здания использовалась как зернохранилище, а зимняя - как конюшня. Приходская община была возрождена в 1998 году, первоначально богослужения совершались в здании крещальни.
К началу 2010-х годов был восстановлен зимний придел храма, освященный во имя святителя Николая Чудотворца, где стали регулярно проводиться богослужения. Архитектурный ансамбль храма представляет собой высокий двусветный четверик с крупным восьмериком, увенчанным маленькой главкой. Алтарная часть выполнена в виде низкого прямоугольного объема с полукруглой апсидой. Фасадный декор выдержан в барочных традициях с использованием плоских пилястр и наличников с фигурными завершениями.
Храм признан объектом культурного наследия народов Российской Федерации (код памятника № 3200187000) на основании решения облисполкома № 406 от 10 июля 1979 года. В настоящее время продолжается поэтапная реставрация памятника архитектуры.