Село Девица впервые упоминается в «Дозорной книге» 1615 года, где отмечается, что оно было заселено на придаточных казачьих землях. К 1676 году в селе насчитывалось 141 двор. В 1732 году в Девице была построена деревянная Архангельская церковь. На рубеже XVIII—XIX веков село было перенесено выше по течению реки на современное место. В 1830 году здесь была выстроена новая каменная церковь Михаила Архангела.
Архитектурным памятником федерального значения является церковь Михаила Архангела, заложенная в 1823 году казаками-бобылями. Это трёхпрестольный храм, строительство которого завершилось в 1830 году. Главный престол освящён в честь святого Архангела Михаила, левый придел — в честь Пресвятой Троицы, правый — в честь святых мучениц Веры, Надежды и матери их Софии.
Историк Д. Самбикин писал: «Церковь Михаила Архангела в селе Девица Воронежского уезда. С приделом Святой мученицы Софии (в ряду с главным престолом). Каменная с колокольней. До этого была церковь, построенная в 1732 году и при ней был поп Савва. Через село протекает река Девица, и во время весеннего разлива реки сообщение с церковью прекращается».
В 1859 году село Смердячая Девица (также известное как Девица или Каменная Девица) имело 399 дворов и население 3 846 человек. В 1893 году население выросло до 6 765 человек при 808 дворах. Жители занимались изготовлением мельничных жерновов из камня, добываемого близ села. К 1900 году в селе насчитывалось 6 213 жителей, 857 дворов, функционировали школы, мельницы, кузницы и различные лавки.
В 1906 году в селе действовало кредитное товарищество, работали две начальные школы. В окрестностях велись разработки мела и огнеупорных глин. После революции 1917 года село было переименовано в Девицу. Советская власть установилась здесь весной 1918 года.
В 1926 году в Девице было 1 494 двора и 7 607 жителей. Работали две школы первой ступени с девятью учителями, действовал медпункт при больнице на 20 коек. В 1930 году был создан колхоз имени Октябрьской революции.
Во время Великой Отечественной войны село Девица с июня 1942 года находилось в оккупации в течение 206 дней. В селе были дислоцированы прифронтовые службы противника, включая отделение тайной полевой полиции. При селе был оборудован лагерь для военнопленных. Освобождение села от оккупантов произошло в конце января 1943 года в ходе Воронежско-Касторненской операции советских войск. Советские воины, павшие при освобождении села, похоронены в братской могиле близ автотрассы Воронеж — Курск. Мемориал павшим в Великой Отечественной войне расположен напротив церкви Михаила Архангела.
Согласно воспоминаниям старожилов, в 1930 году храм был закрыт. Во время оккупации села немецкими войсками во время Великой Отечественной войны храм использовался как лагерь для советских военнопленных. В период с 1943 по 1946 годы здание церкви служило зернохранилищем.
