Первая деревянная церковь в селе Терновое была построена в 1737 году. В 1769 году на её месте была возведена каменная Богоявленская церковь в стиле барокко с элементами русского средневекового зодчества. Храм имел два придела: правый — в честь святителя Димитрия Ростовского, левый — в честь святителя Николая Чудотворца. Церковь расположена на северо-восточной окраине села, на высоком правом берегу реки Ведуги, обращена южным фасадом к автодороге.
В 1880-х годах церковь была приписана к Богоявленской церкви в селе Губарёво, хотя имела собственный причт. К церкви относилось 560 прихожан из села Терновое и хуторов Гудовки и Удобного. Церковь имела 33 десятины пахотной земли и 2 десятины усадебной земли. Причт получал проценты с капитала и 1000 рублей от почётного потомственного гражданина Якова Ивановича Нечаева, владевшего усадьбой в Терновом.
В 1900 году к церкви относилось 1133 прихожанина из 174 дворов. В 1918–1924 годах Богоявленская церковь состояла на учёте в Отделе по делам музеев Главнауки Наркомпроса как наиболее ценный памятник архитектуры Воронежской губернии.
В советский период храм был закрыт и подвергся разрушению. В 1950-х годах около разрушенного храма был снят эпизод пленения советских военных в фильме Сергея Бондарчука «Судьба человека».
20 февраля 1995 года указом Президента Российской Федерации церковь была объявлена объектом культурного наследия федерального значения. В начале XXI века началось восстановление храма. В 2006 году в крещенский сочельник состоялось первое архиерейское служение. 11 июля 2009 года митрополитом Воронежским и Борисоглебским Сергием храм был заново освящён в честь Богоявления Господня.
