Согласно историческим данным, храм был возведён в 1664 году. Предполагается, что на его месте ранее находился деревянный храм во имя Жён-мироносиц, упоминаемый в архивных источниках XV века. Каменное здание храма представляет собой двухэтажную структуру, состоящую из двусветного пятиглавого четверика на подклете, к которому с севера и запада примыкают галереи. На северо-западном углу расположена шатровая колокольня, возведённая до XVIII века.
Архитектурные особенности храма включают кубическую форму основного объёма, увенчанного пятью куполами. Наличники окон отличаются высоким качеством исполнения. Колокольня состоит из мощного четверика, на который поставлен сравнительно узкий восьмерик звона, покрытый пирамидальным каменным шатром со слуховыми окнами в два ряда. Верхняя часть колокольни отличается изящными пропорциями.
Храм объединяет в себе традицию «двойных» вологодских церквей: нижняя тёплая церковь была освящена во имя Иоанна Златоуста, верхняя холодная — во имя Жён-мироносиц. В верхнем храме сохранились лепные картуши с живописными композициями, выполненными во второй половине XVIII века.
В 1930 году храм был закрыт, а его здание передано военному ведомству для использования в качестве склада. В 1960 году храм был включён в список объектов культурного наследия федерального значения. В начале 2000-х годов здание было возвращено верующим, и с 2008 года начались реставрационные работы. В 2014 году был образован приход храма святителя Иоанна Златоуста города Вологды Вологодской епархии Русской Православной Церкви.
