Первые упоминания о церкви на этом месте относятся к 1583 и 1590 годам, когда были построены две деревянные церкви во имя святых Флора и Лавра и Знаменская. Погост, на котором они находились, назывался Флоровским. В 1613 году, во время шведского нашествия, Тихвинский посад был сожжен, однако точные сведения о судьбе этих церквей в тот период отсутствуют.
В начале XVIII века тихвинцы, вернувшиеся из шведского плена, дали обет построить каменный храм в благодарность за свое освобождение. Для этого было получено особое разрешение Петра I, поскольку в то время каменное строительство было ограничено. Так была возведена каменная Знаменская церковь.
К 1832 году церковь обветшала и была перестроена тихвинским купцом М.С. Горемухой. В этом виде она сохранилась до нашего времени.
В конце 1920-х годов храм был закрыт, несколько лет пустовал, затем с него сняли колокола, сломали маковку и уничтожили церковную утварь. Во время Великой Отечественной войны в здании храма размещался ремонтно-восстановительный батальон автомобилей и танков, что привело к значительным повреждениям интерьера. После войны в храме долгое время располагалась городская мельница, а позже — склад кондитерской фабрики имени Самойлова.
В 1989 году здание церкви было передано Тихвинскому приходу, после чего начались ремонтные работы. 24 марта 1991 года храм был освящен, и с тех пор в нем регулярно проводятся богослужения и совершаются требы.
В 2012 году для поклонения православных христиан в храм были вынесены мощи Дивеевских жен: преподобных Александры, Елены, Марфы и блаженных Параскевы, Пелагии и Марии. До этого мощи святых жен хранились в алтаре храма.
