В 1770 году сильный пожар уничтожил значительную часть Тихвинского посада. В память об этом событии и в благодарность за избавление от дальнейших бедствий в 1772 году на Николиной горе была построена деревянная церковь, освященная в честь праведного Иова Многострадального. Одновременно с возведением храма было открыто городское кладбище.
К середине XIX века деревянная церковь обветшала и требовала замены. В 1852 году началось строительство нового каменного храма по проекту архитектора И. Н. Роута, основанному на образцовом проекте К. А. Тона. Строительство завершилось в 1856 году. Новый храм был выполнен в русско-византийском стиле, характерном для того периода.
В 1927 году настоятелем храма стал протоиерей Иоанн Сарв, ранее служивший в Санкт-Петербурге. В 1937 году он был арестован и 3 декабря того же года расстрелян вместе с другими священнослужителями Тихвина. В 1940 году храм был официально закрыт, а его здание использовалось для различных хозяйственных нужд.
Во время Великой Отечественной войны здание храма подвергалось обстрелам, о чем свидетельствуют следы от пуль и осколков на фасадах. После войны здание продолжало использоваться не по прямому назначению.
В 1991 году храм был возвращен Русской Православной Церкви. Под руководством благочинного протоиерея Александра Ваховского были проведены консервационные работы по сохранению здания. Однако в 2004 году произошел поджог, в результате которого выгорела изнутри колокольня, и рухнул ее шатер. В 2005 году начались восстановительные работы, и 8 января 2006 года в храме была отслужена первая литургия после долгого перерыва.
В последующие годы продолжались работы по восстановлению и благоукрашению храма. В 2007 году на площади у храма был установлен и освящен поклонный крест в память о последнем Российском Императоре Николае II. В 2009 году на колокольню был поднят и освящен набор из восьми колоколов.
