Храм возведен на острове Мариам, расположенном в месте слияния рек Олонка и Мегрега.
История храмового комплекса на острове Мариам восходит к XVI веку. В писцовых книгах 1582–1583 годов упоминается деревянная Никольская церковь, существовавшая на этом месте. После переноса Никольской церкви на другой берег реки Олонки, на острове была построена деревянная церковь Пречистой Богородицы Одигитрии.
В 1819 году император Александр I посетил Олонец и молился в ветхой деревянной церкви на острове Мариам. Увидев состояние храма, он распорядился выделить 20 тысяч рублей на его восстановление или строительство нового. К строительству нового каменного собора приступили в 1824 году, и в 1830 году он был освящен.
Архитектурно собор представляет собой образец русского классицизма. Здание выполнено из кирпича и оштукатурено. Главный объем завершен куполом на барабане, фасады украшены пилястрами и полуциркульными окнами. С западной стороны к основному объему примыкает трапезная, над которой возвышается трехъярусная колокольня, увенчанная шпилем.
После Октябрьской революции 1917 года собор был закрыт. В период финской оккупации во время Великой Отечественной войны здание использовалось как лютеранская церковь. В советское время в стенах собора размещался краеведческий музей.