Согласно преданиям, первоначально на этом месте находилась деревянная Николаевская церковь, существовавшая до 1792 года. В результате новой планировки города храм был перенесён и заменён каменным зданием, которое просуществовало до 1832 года. В 1840 году на том же месте была возведена новая, более вместительная каменная церковь в стиле классицизма, с однокупольной структурой, трапезной и колокольней.
Внутри храма были устроены два придельных алтаря: правый — во имя великомученика Иоанна Воина, левый — во имя Казанской иконы Божией Матери. В 1893 году, благодаря значительным пожертвованиям купцов Георгия Патрикеевича Нечаева и Ивана Степановича Долгова, храм был капитально обновлён. Особое внимание было уделено главному иконостасу, который был позолочен и заново расписан.
Приход церкви включал часть города Ефремова, а также слободы Стрелецкую и Сухановскую. С 1886 года при храме действовала церковно-приходская школа, способствовавшая духовному и образовательному развитию местного населения.
В середине XX века, в период антирелигиозной политики советского государства, церковь была разрушена. На месте утраченного храма был установлен памятный знак в виде часовенного столба, напоминающий о его существовании.
В начале XXI века, по инициативе и трудами архимандрита Германа и при поддержке благотворителей, недалеко от прежнего места была построена новая церковь во имя святителя Николая Чудотворца. Строительство велось с 2006 по 2009 годы. Современный храм представляет собой кирпичное здание с щипцовыми завершениями фасадов, увенчанное луковичной главкой, с западным притвором и одноярусной колокольней. Освящение храма состоялось в 2009 году.
