Основан во второй половине XVII века старцем Иосифом на южной окраине города.В 1679 году монастырю были пожалованы мельницы на реках Студенец и Цна в районе села Донское.В его собственности находились земли Троицкой Дубравы, Троицкого Караула, хутор Трёх Лощин, берег реки Кариан и земли близ села Татаново.
Архитектурный облик монастыря неоднократно менялся из-за частых пожаров в Тамбове. Значительное переустройство произошло в середине XVIII века. В 1758 году, с возобновлением Тамбовской епархии, епископ Пахомий (Симанский) выбрал Казанскую обитель своей архиерейской резиденцией. Были построены деревянный архиерейский дом, духовная консистория, баня, конюшенный двор и хозяйственные службы.
Каменное строительство зданий и храмов монастыря началось в последнем десятилетии XVIII века. Епископ Феофил (Раев), управлявший епархией с 1788 по 1811 годы, инициировал возведение двух каменных храмов: Казанского и Иоанно-Предтеченского. Архитектурный облик зданий выполнен в духе классицизма.
Летняя соборная церковь в честь Казанской иконы Божией Матери была заложена в 1791 году и освящена в 1796 году. Её архитектура повторяет облик Успенского собора Саровской пустыни. В 1793 году в этом храме был рукоположен в иеромонахи преподобный Серафим Саровский. Епископ Феофил (Раев) был погребён у южной стены внутри Казанского собора.
Зимняя церковь во имя Иоанна Предтечи была заложена в 1794 году, строительство завершилось в 1821 году. Многоярусная колокольня монастыря, отстроенная в 1848 году, была разрушена в советские годы.
Казанский монастырь был окружён каменной стеной с металлическими решётками, строительство которой завершилось к началу XIX века. В начале XX века в юго-западную часть монастырской стены включались двухэтажное здание консистории, архиерейский дом, братский корпус и здание архива.
В 1918 году монастырь был закрыт в связи с выступлениями против советской власти. Во время гражданской войны на его территории был устроен лагерь, где велись допросы и расстрелы участников Антоновского восстания. Колокольня была разрушена, её материалы использованы для строительства клуба в пригороде. В 1920-х годах в монастыре размещалась Тамбовская губернская ЧК. В последующие годы были уничтожены некрополь и другие сооружения.
Возрождение монастыря началось 22 декабря 1992 года. В 1993 году патриарх Алексий II освятил часовню в память погибших в годы гражданской войны. В 2003 году была освящена часовня над могилой архиепископа Евгения (Ждана). В 2005 году освящён семинарский домовый храм в честь святых равноапостольных Кирилла и Мефодия. В 2014 году патриарх Кирилл освятил новопостроенную колокольню.
