Первоначально планировалось строительство домовой часовни при его свечном заводе, однако в преддверии 900-летия Крещения Руси было принято решение о возведении более крупного храма в память этого события.Закладка церкви состоялась 13 июня 1888 года, а 4 декабря 1889 года епископом Екатеринославским Серапионом храм был освящён.
Проект храма, предположительно разработанный архитектором Николаем Матвеевичем Соколовым, предусматривал кирпичное здание с центральным световым барабаном и одноярусной звонницей. Интерьер был украшен росписями, выполненными масляными красками. Территория храма была обнесена ажурной оградой на каменном цоколе. При храме функционировала мужская одноклассная церковно-приходская школа имени Шаховых, в которой обучалось 150 мальчиков. Школа содержалась на средства М.П. Шахова, который также обеспечивал жалованье священнику и поддерживал приют для престарелых сирот.
После смерти Михаила Петровича Шахова его вдова, Ефросинья Леонтьевна Шахова, передала имущество, включая храм, в собственность города с условием выплаты жалованья священнику и содержания приюта. В начале 1930-х годов храм был закрыт, купол демонтирован, а здание передано Паровозоремонтному заводу имени Ленина для производственных нужд. В период оккупации Ростова-на-Дону немецкими войсками в 1942 году здание вновь использовалось как молитвенный дом. После освобождения города, в 1943 году, прихожане Владимирского и Серафимовского храмов собрали средства на изготовление двух танков для Советской армии, за что Владимирский храм был награждён Красным знаменем и портретом И.В. Сталина. Однако в 1954 году здание вновь было передано заводу, а в 1963 году — вневедомственной охране Железнодорожного района для оборудования под служебные помещения.
В 2012 году, по благословению митрополита Ростовского и Новочеркасского Меркурия, был образован приход Князь-Владимирского храма. В том же году приход направил запрос в Росимущество на передачу здания, стоящего на месте разрушенного храма. С ноября 2012 года в здании начали проводиться регулярные богослужения. В июле 2013 года были установлены купола и приобретена малая звонница, а в 2014 году обустроена колокольня. 25 июля 2013 года состоялось освящение и установка креста храма.
