Первое упоминание о деревянной Покровской церкви в Ельце относится к концу XVI — началу XVII века. В документах от 27 ноября 1617 года упоминается «покровский поп Богдан», заверяющий свидетельские показания прихожан по делу о краже из царской казны. В 1660–1670-х годах старая деревянная церковь была заменена новой, также деревянной, построенной усилиями прихожан и священника Михаила. Эта церковь обслуживала приходы Кузнецкой, Александровской и Казачьей слобод, при ней имелось кладбище.
В середине XVIII века прихожане приняли решение о строительстве каменного храма вместо обветшавшей деревянной церкви. 20 марта 1751 года Воронежская духовная консистория выдала указ о постройке каменного храма. Строительство велось на средства прихожанина, елецкого купца Никиты Криворотова, и было завершено к 1759 году. В новом храме, помимо главного Покровского престола, были устроены два придельных алтаря во имя святых Никиты Халкидонского и мученицы Варвары.
В конце XVIII века между колокольней и храмовой частью была построена трапезная. В середине XIX века возникла необходимость капитального ремонта храма из-за значительных трещин в стенах. В 1852 году было получено разрешение на проведение работ, и было принято решение о строительстве новой храмовой части. Проект был заказан архитектору Андрею Андреевичу Тону, брату известного архитектора Константина Тона. Однако представленный проект был признан неудовлетворительным, и фасад был переработан архитектором Василием Моргаловым с приданием черт «русско-византийского» стиля.
В 1854 году старая храмовая часть была разобрана, и к 1867 году строительство новой было завершено и освящено. После этого было решено перестроить и трапезную, работы по которой завершились к 1869 году. Новая храмовая часть представляла собой бесстолпный, одноглавый храм с небольшими выступами-ризалитами и прямоугольной апсидой. Фасады были выполнены из кирпича с декором из пилёного известняка, цокольная часть выложена из тщательно обработанных блоков известняка. Архитектурный стиль сочетал элементы позднего классицизма и «русско-византийского» стиля.
В начале XX века старостой Покровской церкви был Николай Иванович Криворотов, представитель известной елецкой купеческой династии. В это время в приходе числилось 1762 жителя Ельца. В феврале 1921 года власти изъяли из Покровской церкви и передали в Елецкий пролетарский музей главную храмовую святыню — портрет-икону святого Тихона, а также резное изображение Христа в темнице. В 1922 году из храма была изъята серебряная утварь весом 31 фунт 27 золотников 40 долей, а 9 декабря того же года музей получил из Покровской церкви плащаницу XVII века.
Закрытие храма произошло после 1933 года; уже в 1937 году он был занят под ссыпку хлеба. В декабре 1943 года церковь пустовала, и в ней начали ломать полы. Согласно документам 1962 года, Покровская церковь использовалась как складское помещение. В 1965 году к Покровской церкви подогнали четыре бульдозера, зацепили тросами крест главного купола и сбросили его и всю крышу. Вырытая неподалеку от стен колокольни траншея для прокладки коммуникаций ослабила грунт, и колокольня рухнула.
