Строительство храма-часовни было осуществлено в рамках создания комплекса Алексеевской психиатрической больницы, известной также как Канатчикова дача. Автором проекта выступил архитектор Леонид Осипович Васильев, академик архитектуры, известный своими работами в области медицинской и церковной архитектуры. Храм был заложен 6 декабря 1900 года и предназначался для совершения отпеваний умерших пациентов больницы.
Архитектурное решение храма представляет собой сочетание русско-византийского стиля с элементами модерна. Здание деревянное, четырёхугольное в плане, с шатровым крыльцом, украшенным звёздами. Такая стилистика была характерна для церковных построек того периода и отражала стремление к возрождению национальных архитектурных традиций.
После событий 1922 года, в период антирелигиозной кампании, храм был закрыт и переоборудован под морг, что соответствовало общей тенденции использования церковных зданий в утилитарных целях в советское время. В течение последующих десятилетий здание использовалось исключительно как хозяйственное помещение, что привело к утрате его первоначального облика.
В 1998 году, в рамках программы восстановления исторических и культурных памятников, были завершены работы по воссозданию храма-часовни преподобного Иоанна Рыльского. Реставрация проводилась с учётом сохранившихся архивных материалов и фотографий, что позволило максимально точно восстановить архитектурный облик здания. Храм вновь стал действующим и был приписан к храму иконы Божией Матери «Всех скорбящих Радость», расположенному на территории той же больницы.
