Во второй половине XVI века ученик преподобного Александра Свирского, преподобный Афанасий Сяндемский, основал на берегу озера Сяндебского мужскую обитель. По благословению новгородского архиепископа Пимена, была построена деревянная церковь во имя Святой Живоначальной Троицы и восемь келий, где проживали десять монахов. В 1577 году митрополит новгородский Александр издал жалованную грамоту, закрепившую земли за монастырем, что позволило Афанасию продолжить свою деятельность в обители.
В 1582 году, во время Ливонской войны, монастырь подвергся нападению шведов: Троицкая церковь была сожжена, а игумен убит. К 1628–1629 годам обитель была восстановлена: вновь отстроена Троицкая церковь и три кельи, в которых проживали строитель монастыря Иосиф и семь старцев.
В 1720 году монастырь полностью сгорел, но был заново отстроен. В 1723 году к обители были приписаны Андрусовская и Задне-Никифоровские пустыни. Однако в 1764 году, в результате секуляризационной реформы Екатерины II, пустынь была закрыта. В 1802 году церкви упраздненной пустыни были приписаны к Туксинской приходской церкви, а в 1821 году — к Андрусовской обители, что позволило возобновить монашескую жизнь.
Восстановлению и укреплению пустыни способствовал игумен Валаамского монастыря Иннокентий, выделивший денежные средства на восстановление обители. В 1827 году он добился от Комитета министров выделения земли для восстанавливаемой Сяндемской пустыни. Старцем Иннокентием была приобретена для церкви икона Владимирской Божией Матери в серебряной ризе. Кроме того, графиня Анна Орлова-Чесменская украсила на свои средства ризницу церкви. В 1852 году, благодаря усилиям валаамского игумена Дамаскина, обитель получила икону валаамских чудотворцев Сергия и Германа. К 1879 году братия состояла из девяти человек, а земельные владения обители составляли 75 десятин.
В 1902 году пустынь получила самостоятельность, однако ее доходы были невелики, и в 1909 году она была преобразована в женскую обитель. Одной из целей пустыни стало просвещение местного карельского населения. К 1911 году в обители проживало 18 человек.
После Октябрьской революции 1917 года пустынь была закрыта, ее земли и имущество переданы образованному животноводческому совхозу. Часть сестер вошла в православную общину деревни Сяндеба. Во время Советско-финской войны (1941–1944) вблизи монастыря проходила линия фронта, и все его здания были уничтожены.
В настоящее время Успенская Сяндемская пустынь возрождена как женский монастырь. Были возведены деревянный Троицкий храм, жилые и хозяйственные постройки. В 2013 году митрополитом Петрозаводским и Карельским Мануилом был освящен фундамент строящегося Успенского храма. Строительство каменного Успенского храма было начато в августе 2013 года и велось по сохранившимся фотографиям утраченной церкви во имя святителей Афанасия и Кирилла. Вероятно, этот храм был построен в 1865 году по проекту из альбома образцовых проектов церквей, разработанных Константином Тоном. По такому же проекту были построены многие храмы в России в XIX веке.
