В 1898 году, по благословению святого праведного Иоанна Кронштадтского, началось строительство каменной часовни во имя Тихвинской иконы Божией Матери. Проект был разработан архитектором Николаем Никоновым. Часовня была возведена в северо-западном углу церковного участка, примыкающего к собору святого апостола Андрея Первозванного. Строительство завершилось в 1899 году, и часовня была освящена в том же году.
Архитектурно часовня представляла собой небольшое каменное здание, выполненное в классическом стиле. Она гармонично вписывалась в ансамбль Андреевского собора и служила местом молитвы для прихожан.
В 1932 году, в период антирелигиозной политики советской власти, Андреевский собор и прилегающая к нему Тихвинская часовня были разрушены. На их месте был разбит сквер и установлен памятник В.И. Ленину.
Возрождение часовни началось в начале XXI века. 22 сентября 2008 года Святейший Патриарх Московский и всея Руси Алексий II освятил закладной камень в основании новой часовни. Строительство велось на историческом месте, и уже к 1 ноября 2009 года, в день 180-летия со дня рождения святого праведного Иоанна Кронштадтского, часовня была освящена.