Согласно записям в клировых ведомостях, храм функционировал уже во второй половине XVIII века, однако в 1822 году было завершено строительство нового каменного здания на средства купцов Севастиана и Фёдора Андрониковых из рода Шелеховых, к которому принадлежал известный мореплаватель Григорий Иванович Шелихов.
Архитектурный облик собора выполнен в стиле классицизма. Здание представляет собой кирпичный, одноглавый, крестово-купольный храм с четырьмя портиками, украшенными резными карнизами. Форма основного объёма близка к круглой благодаря слегка выпуклым сторонам между портиками. Окна расположены в два яруса: нижние — более высокие и прямоугольные, оснащены коваными решётками. К храму примыкает многоярусная колокольня высотой около 50 метров, являющаяся почти точной копией колокольни Успенского собора Рыльска. Углы колокольни обрамлены пучками из пяти полуколонн.
Внутреннее убранство храма включает три престола: центральный — в честь Покрова Пресвятой Богородицы, левый — святой мученицы Параскевы, правый — архангела Михаила и святого Иоанна Златоуста. В 1864 году была перекрыта железная крыша, в 1884 году здание оштукатурено и покрашено, а в 1895 году установлено калориферное отопление. В 1905 году фасады и интерьеры обновлены, приобретя штукатурный декор в стиле псевдобарокко; примерно в это же время к южному фасаду колокольни пристроена паперть.
К началу XX века при храме действовали три школы: двухклассная церковно-приходская школа в Рыльске и по одной школе в деревнях Волынка и Покровская. В 1915 году в этих школах обучалось 167 мальчиков и 32 девочки. Церковная библиотека насчитывала 55 книг. Приход включал часть жителей Рыльска и близлежащих деревень, всего около 1649 человек. В собственности храма находилось 452 десятины земли, из которых пахотными были 306 десятин; доход от сдачи земель в аренду составлял 3360 рублей.
После Октябрьской революции 1917 года храм продолжил функционировать на основании договора с местными властями от 17 мая 1919 года. В 1922 году, в ходе кампании по изъятию церковных ценностей, из храма было изъято 39 предметов общим весом 19 фунтов 43 золотника. В 1930-х годах здание использовалось как зернохранилище, что привело к повреждению полов, наличников и росписей.
Во время Великой Отечественной войны, после освобождения Рыльска в 1943 году, богослужения в храме возобновились. 5 января 1945 года между общиной верующих и Рыльским райисполкомом был заключён договор о передаче здания церкви в бессрочное пользование. В последующие годы проводились ремонтные работы: в 1946 году построена сторожка, в 1954 году произведена побелка, покраска и восстановление живописи, однако результаты оценены как неудачные. В 1956 году начато изготовление нового иконостаса для правого придела. В 1960-х годах был запрещён колокольный звон; у входа в храм по православным праздникам дежурили учителя и комсомольцы, препятствуя посещению учащимися.
В 1970-е годы проведены значительные ремонтно-строительные работы: заменены купольные перекрытия крыш, отделаны фасады, на церковном дворе построены трапезная, канцелярия, крестильный домик и свечная лавка. Внутри храма выполнена роспись стен и купола, установлен новый иконостас.
25 октября 1990 года произведена регистрация религиозного объединения «Православный приход Покровского храма Курской епархии Русской Православной Церкви (Московский патриархат)». В сентябре 1991 года храм посетил Патриарх Московский и всея Руси Алексий II, совершив молитву и обращение к собравшимся. В последующие годы обновлены луковки и кресты, отремонтирована крыша, полы выложены керамической плиткой, территория вокруг храма заасфальтирована, установлена ажурная металлическая ограда. Капитально отремонтировано двухэтажное здание у колокольни, ранее использовавшееся под церковно-приходскую школу, затем общежитие педагогического училища; теперь в нём проводятся занятия воскресной школы и кадетского казачьего корпуса.
