Храм во имя святителя Иоанна Милостивого в городе Сергач Нижегородской области был основан в 1780 году как деревянная кладбищенская церковь. Первоначально здание находилось в селе Чуфарово, где существовало два храма: один в честь Рождества Христова и Казанской иконы Божией Матери, другой - во имя святителя Иоанна Милостивого и преподобного Иоанна Дамаскина. Владелица села Анна Гавриловна Нормацкая пожертвовала второй храм сергачанам после переноса городского кладбища за пределы поселения в 1779 году.
Каменное здание храма было возведено в период с 1831 по 1834 годы усилиями священника Иоанна Иоанновича Пустынского. Для финансирования строительства он организовал производство кирпича, продажа которого позволила собрать необходимые средства. Прихожане участвовали в строительстве, помогая изготовлением кирпича, заготовкой глины и дров для обжига. Архитектурное решение выполнено в стиле позднего классицизма, храм представляет собой однокупольное сооружение с прямоугольным алтарём.
В XIX веке к основному объёму были пристроены трапезная часть и колокольня. Храм окружала каменная ограда с караулкой у входа. В советский период, в 1930-х годах, церковь была закрыта, но не подверглась значительным разрушениям. В 1992 году здание возвращено Нижегородской епархии Русской Православной Церкви и вновь освящено. С этого времени в храме возобновлены регулярные богослужения.
Храм расположен на территории городского кладбища, что соответствует его первоначальному назначению. В архитектурном ансамбле сохранились элементы первоначальной ограды и кованые ворота. В непосредственной близости от церкви находится захоронение священника Иоанна Пустынского, умершего 4 января 1848 года.