Первоначально на этом месте стояла деревянная церковь, построенная без использования гвоздей, с резным позолоченным иконостасом. Однако в 1860 году здание сгорело. В 1865 году, на месте сгоревшей деревянной церкви, была построена и освящена каменная Никольская церковь. Памятная дата была увековечена на въездных воротах металлическими цифрами, обрамлёнными лучами восходящего солнца. Главный престол храма был освящён в честь Святителя Николая Чудотворца. Северный придел был посвящён Архистратигу Михаилу, а южный — Святителю Тихону Задонскому, а позднее — и Святителю Иоасафу Белгородскому.
Архитектурно храм имеет крестообразную форму, что особенно заметно внутри здания. Барабан основного купола состоит из двенадцати арочных окон. Полусфера барабана переходит в четыре арки, украшенные архитектурными элементами в виде косого паруса. На каждом из этих парусов сохранились фрески начала XX века с изображениями святых апостолов-евангелистов Иоанна, Матфея, Луки и Марка, выполненные местными мастерами. Иконостас храма изготовлен в 1970-е годы XX века; он деревянный, покрыт позолотой.
В годы Великой Отечественной войны, когда немецкие войска отступали от Грайворона, они решили забрать иконостас с собой. Предупредив священника, что на следующий день придут за иконостасом, настоятель за ночь снял с него всю позолоту, испортив его внешний вид. Увидев изменённый иконостас, немецкий офицер начал стрелять в верхнюю центральную часть над Царскими вратами; однако пули не попали в лик Бога Саваофа, пробив лишь облачение.
В 1974 году богослужения в храме были возобновлены. При храме действует детская воскресная школа. Храм Николая Чудотворца является объектом культурного наследия и подлежит государственной охране.
