Село Землянск было основано в 1657 году при царе Алексее Михайловиче. В 1663 году оно получило статус города, став частью оборонительной линии на южных рубежах Русского государства. В 1678 году в Землянске была построена деревянная крепость с башнями и рвом, остатки которой сохранялись до конца XVIII века. Город имел регулярную планировку, утверждённую в 1786 году, с радиально-кольцевой структурой улиц, центром которой являлась Преображенская церковь.
Первая деревянная церковь во имя святителя Николая Чудотворца была построена в Пушкарской слободе Землянска в 1760-х годах. В 1794 году на её месте был возведён каменный храм с колокольней, включающий придел в честь святителя Тихона Амафунтского. Архитектура храма сочетает элементы позднего барокко и классицизма. Здание имеет прямоугольный план с полукруглой апсидой и четырёхъярусной колокольней. Фасады украшены пилястрами и карнизами, окна оформлены сандриками. Внутреннее пространство перекрыто сводами, стены и своды оштукатурены и побелены.
По данным на 1900 год, при храме числились священник и псаломщик, приход насчитывал 158 дворов с 1113 прихожанами. Церковь владела 73 десятинами земли. В советский период храм был закрыт, вероятно, в 1930-х годах, и использовался под различные хозяйственные нужды. Во время Великой Отечественной войны, в период немецко-фашистской оккупации, богослужения в храме были возобновлены. После войны здание вновь использовалось не по назначению, что привело к его частичному разрушению и утрате архитектурных элементов.
В 1987 году храм был включён в список объектов культурного наследия регионального значения. В последующие годы начались восстановительные работы, направленные на сохранение и реставрацию архитектурного облика здания. 2 декабря 2018 года состоялось Великое освящение храма, совершённое митрополитом Воронежским и Лискинским Сергием. В ходе чина освящения были проведены традиционные обряды: омовение и помазание престола, окропление стен святой водой, закладка частиц святых мощей под престол. После освящения была совершена Божественная литургия.