Село Верхняя Девица, также именуемое Кучугурами, возникло в XVII столетии. По местному преданию, его основали однодворцы — выходцы из Курской губернии. Позднее к ним присоединились помещики с крепостными. К 1802 году в селе проживало 1119 душ мужского пола и 1203 души женского пола. К 1904 году приход насчитывал 546 дворов с 2403 душами мужского и женского пола.
Первоначальный деревянный храм, существовавший в селе, был продан в село Ефросимово Землянского уезда. На его месте в церковной ограде установлен каменный столб с крестом. Каменный храм во имя святого апостола и евангелиста Иоанна Богослова с придельным алтарем в честь преподобного Александра Свирского начали строить в 1790 году. Освящение храма состоялось в 1796 году.
В 1883 году, по причине тесноты, храм был расширен крестообразно двумя приделами. Прежний придельный алтарь разобрали, а в новых приделах устроили алтари: южный — во имя Казанской иконы Божией Матери, северный — во имя святителя Николая Мирликийского. Освящение южного придела состоялось в 1889 году, северного — в 1890 году. Главный престол сохранил посвящение апостолу Иоанну Богослову.
В ходе перестройки были изготовлены новые иконостасы, заменен каменный пол на деревянный, оштукатурены стены и обновлена настенная живопись. В 1901 году на средства прихожан была выкрашена крыша, оштукатурены фасады храма и ограда. При церкви с 1885 года действовала церковно-приходская школа, размещавшаяся в отдельном здании. Земельный надел причта составлял 66 десятин.
В 1831 году близ дороги в село Ольшанку был обретен образ Казанской Божией Матери, после чего на месте явления построили деревянную часовню с колодцем. Ежегодно 8 июля к источнику совершался крестный ход. В 1930-е годы храм был закрыт и использовался как склад. В 2011 году началось возрождение прихода, а в 2015 году рядом со старинным храмом построили новую деревянную церковь. В 2018 году на колокольне исторического здания установили купол и колокол.