В 1830 году в центральной части этого больничного корпуса была устроена и освящена домовая церковь во имя иконы Божией Матери «Всех Скорбящих Радость».Центральная часть здания была увенчана куполом с золотым крестом, установленным на массивном световом барабане; вход в церковь располагался в центре фасада, обращённого на Лазаретную улицу.
В 1838 году во дворе больницы была построена часовня с главкой и крестом. В 1842 году император Николай I посетил церковь, присутствовал на богослужении и пожаловал протоиерею Роману Гладкому дорогой перстень. В 1867 году при часовне была организована комната для проведения вскрытий.
После Октябрьской революции домовая церковь иконы Божией Матери «Всех Скорбящих Радость» была закрыта. В 1936 году были демонтированы бельведер и купол церкви. До 2004 года здание часовни использовалось городской больницей № 1: здесь размещались бухгалтерия, склады, а затем архив бюро судебно-медицинской экспертизы.
2 января 2004 года по благословению митрополита Курского и Рыльского Ювеналия была образована православная община в честь иконы Божией Матери «Всех Скорбящих Радость» с целью возвращения и восстановления храма. 6 февраля 2004 года община была зарегистрирована в органах юстиции. 23 июля 2004 года комитет по управлению имуществом передал в безвозмездное бессрочное пользование новообразованной общине здание бывшей часовни. 29 июля 2004 года указом митрополита Курского и Рыльского Ювеналия настоятелем прихода был назначен священник Вадим Санин.
В августе 2004 года митрополит Ювеналий освятил антиминс для совершения литургии в восстанавливаемом храме. Первое богослужение состоялось на праздник Преображения Господня 19 августа 2004 года. 6 ноября 2007 года храм был освящён архиепископом Курским и Рыльским Германом.
