История его создания берет начало в конце XIX века, когда возникла необходимость удовлетворить религиозные потребности жителей окраинных районов города, особенно заречной части и Чулковой слободы, которые испытывали трудности с посещением центральных храмов из-за удаленности и плохого состояния дорог.
В начале 1898 года священник Свято-Духовской церкви, исполняя указания епархиального начальства, представил сведения о возможности строительства нового храма на окраине прихода. Рассматривались три варианта размещения, однако владельцы двух участков запросили высокую плату, что оказалось неприемлемым для епархии. Мещанин Александр Николаевич Авчинников предложил безвозмездно свой участок на улице Дульной, а также предоставил кирпич для строительства и свой деревянный дом для временной церкви. 3 июня 1898 года временный храм был освящен. Окрестные жители активно участвовали в обустройстве: приносили иконы, сооружали иконостас и звонницу, благоустраивали территорию вокруг храма и прилегающие улицы.
Осенью того же года началось возведение каменной церкви вокруг временного деревянного храма. Однако весной следующего года строительство было приостановлено из-за слабости грунта. В этой ситуации купец Михаил Петрович Владимиров, член строительного комитета, пожертвовал два смежных участка на пересечении улиц Ствольной и Арсенальной, взял на себя расходы по перевозке строительных материалов на новое место и предоставил дополнительный кирпич.
На новом участке в сентябре 1899 года была построена временная деревянная церковь-школа на средства Михаила Петровича Владимирова. С 1898 года в приходе функционировали две церковно-приходские школы — для мальчиков и для девочек. Значительный вклад в строительство каменного храма внес купец Дмитрий Яковлевич Ваныкин, завещавший на эти цели три тысячи рублей.
Строительство каменного Свято-Знаменского храма завершилось в 1905 году. В храме было три престола: главный — во имя иконы Божией Матери «Знамение», правый — во имя архангела Михаила, левый — во имя преподобного Серафима Саровского. Иконостас главного престола был выполнен из белого мрамора. До наших дней сохранились кованые ажурные решетки на окнах храма. Деревянную временную колокольню установили на столбах, а каменную звонницу возвести не успели. 7 сентября 1914 года была завершена настенная роспись храма.
Архитектурно храм представляет собой сочетание традиционной для XVIII—XIX веков объемно-пространственной композиции с декором в русском стиле. Объемное решение включает вытянутые трапезную и основной объем, алтарную апсиду. Декор характеризуется сочетанием красного кирпича с белым камнем и использованием элементов древнерусской архитектуры: полукруглых и заостренных кокошников над окнами, колонок, обрамляющих оконные проемы, ширинок на пилястрах и под окнами. Завершение храма выполнено в виде пятиглавия, покоящегося на двух рядах килевидных кокошников, что характерно для московских церквей второй половины XVII века.
В 1924 году тульские власти предприняли попытку отобрать храм у общины приверженцев патриарха Тихона, отказав ей в перезаключении договора пользования Свято-Знаменским храмом. Однако прихожане обратились с жалобой во ВЦИК, сообщив, что местные власти намерены передать все храмы города в руки обновленцев.
