Деревянная церковь была возведена в 1788 году в связи с переносом городского кладбища на новое место.Закладка храма состоялась 28 мая 1788 года, а уже к осени того же года строительство было завершено.Освящение храма произошло 15 октября 1788 года Александро-Свирским архимандритом Варлаамом.
В 1862 году, благодаря усилиям олонецкого купца Василия Фёдоровича Кузнецова, храм был капитально отремонтирован. Были проведены работы по подведению фундамента, выравниванию и ремонту сруба, обновлению обшивки тёсом, покрытию кровли железом и установке двух печей-голландок. 10 ноября 1862 года церковь была повторно освящена.
Архитектурно храм представляет собой деревянное здание с основным кубическим объёмом, увенчанным пятью главами, и четырьмя пристройками по сторонам куба меньшей высоты. Деревянный обшивной декор выполнен в классицистическом стиле. Особую ценность представляет иконостас, состоящий из старинных икон XV и XVIII веков.
В период советской власти, когда многие храмы закрывались, Успенская церковь оставалась действующей. В 1920-х годах при храме была организована община верующих. Во время закрытия других церквей в Олонце сюда переносили иконы и церковную утварь, включая храмовую икону Смоленского собора Олонца. В 1960-х годах предпринимались попытки закрыть храм, однако благодаря усилиям прихожан он продолжил функционировать.
26 января 2014 года в церкви произошёл пожар, причинивший серьёзный ущерб внутреннему убранству, иконам и иконостасу. Предположительной причиной возгорания стала перегревшаяся печь во время сильных морозов. Впоследствии были проведены восстановительные работы, и храм продолжил свою деятельность.
