Первоначально на данном месте существовала деревянная церковь, упоминаемая в источниках начала XVII века. Согласно надписи на напрестольном кресте, в 1601 году был создан крест для престола Владимирской Богородицы в Ярославле «на убогий дом», что свидетельствует о существовании храма на территории, предназначенной для захоронения бездомных и неопознанных умерших. Такие места назывались «божедомками» и служили кладбищами для погребения нищих, странников и утопленников.
Каменный храм был возведён в 1670–1678 годах на средства «государева гостя» Семёна Астафьевича Лузина. Архитектурно здание представляет собой бесстолпный храм трапезного типа с трёхшатровым завершением, что является редкостью для ярославского зодчества того времени. Основной объём храма вытянут по оси север–юг, с прямоугольным алтарём и притвором с западной стороны. Над притвором возвышается невысокая шатровая колокольня. Декоративная отделка здания минимальна, что соответствует его первоначальному статусу кладбищенской церкви. Фресковые росписи интерьера датируются 1691 годом и в настоящее время находятся под побелкой.
В 1821 году к югу от основного храма была построена тёплая церковь в честь Покрова Пресвятой Богородицы с приделом во имя святителя Филиппа, митрополита Московского. Это здание, выполненное в стиле классицизма, имело высокую трёхъярусную колокольню с изящным шпилем. В конце XIX века приход включал более 720 прихожан, в том числе жителей Ярославля и близлежащих деревень.
В 1918 году, во время подавления Ярославского восстания, в храме был убит священник Геннадий Здоровцев. В 2000 году он был причислен к лику святых новомучеников. В 1929–1930 годах храмы были закрыты советскими властями. Покровская церковь была перестроена, утратила купол и колокольню, и использовалась под офисные помещения. Владимирская церковь использовалась как склад, что негативно сказалось на её состоянии.
В 1992 году храм был передан общине Российской православной автономной церкви (РПАЦ). В 2016 году, после смерти настоятеля, территориальное управление Росимущества инициировало судебное разбирательство, в результате которого в 2017 году храм был передан Русской православной церкви. 5 января 2018 года было совершено малое освящение храма.