Первоначально в селе существовал деревянный храм, освящённый в честь святителя Димитрия Ростовского. Согласно указателю храмовых празднеств Воронежской епархии за 1884 год, в 1799 году этот храм был деревянным с колокольней, имел приписанные земли и обслуживал более тысячи прихожан.
В 1848 году на пожертвования прихожан в селе был возведён и освящён каменный храм в честь Ахтырской иконы Божией Матери. Строительство осуществлялось мастерами из Воронежской епархии, включая каменщиков, плотников, столяров и живописцев. Архитектурный облик храма соответствовал образцовому проекту № 15, распространённому в то время.
После Октябрьской революции 1917 года, в соответствии с декретом от 5 февраля 1918 года, здания церквей были национализированы и переданы органам местной власти. В 1930-е годы храм был закрыт, а его имущество, включая иконы, архивы и церковную утварь, было изъято и частично уничтожено. Церковные архивы, содержащие сведения о приходской жизни, были сожжены, что привело к утрате ценных исторических данных.
В 1999 году Курская епархия Русской Православной Церкви открыла приход храма Ахтырской иконы Божией Матери, разместив его в частном доме рядом с разрушенным зданием храма. С 2005 года в восстановленном притворе храма начали проводиться богослужения. В 2006 году был установлен иконостас, переданный из Курской духовной семинарии, а в 2009 году приобретена малая звонница. В том же году старожилы села передали в дар храму чтимую икону Ахтырской Божией Матери.
Архитектурный облик храма сочетает в себе традиционные элементы русской православной архитектуры. Здание выполнено из кирпича, имеет центральный купол и колокольню. Внутреннее убранство храма включает иконостас, выполненный в соответствии с канонами православной церкви, а также росписи, отражающие библейские сюжеты. Особое внимание уделено сохранению и восстановлению икон.
В настоящее время храм является действующим и играет важную роль в духовной жизни села Верхняя Грайворонка. Проводятся богослужения, таинства и духовно-просветительские мероприятия. Храм является объектом культурного наследия и охраняется государством.
