Обитель была основана во второй половине XVI века учеником преподобного Александра Свирского — преподобным Афанасием Сяндебским по благословению новгородского архиепископа Пимена. Первоначально на берегу озера Сяндебского была выстроена деревянная церковь во имя Святой Живоначальной Троицы и восемь келий, где проживали десять монахов. В 1577 году митрополит новгородский Александр издал жалованную грамоту, закрепившую земли за монастырем, что позволило Афанасию Сяндебскому продолжить свою деятельность в обители.
В 1582 году, во время Ливонской войны, монастырь подвергся нападению шведов: Троицкая церковь была сожжена, а игумен убит. Старцы успели спрятать утварь и колокола, утопив их в озере. К 1628–1629 годам обитель была восстановлена: вновь отстроена Троицкая церковь и три кельи, в которых проживали строитель монастыря Иосиф и семь старцев.
В 1720 году монастырь полностью сгорел, но был заново отстроен. В 1723 году к обители были приписаны Андрусовская и Задне-Никифоровские пустыни. Однако в 1764 году, в результате секуляризационной реформы Екатерины II, пустынь была закрыта. В 1802 году церкви упраздненной пустыни были приписаны к Туксинской приходской церкви, а в 1821 году — к Андрусовской обители, что позволило возобновить монашескую жизнь.
Восстановлению и укреплению пустыни способствовал игумен Валаамского монастыря Иннокентий, выделивший денежные средства на восстановление обители. В 1827 году он добился от Комитета министров выделения земли для восстанавливаемой Сяндемской пустыни. Старцем Иннокентием была приобретена для церкви икона Владимирской Божией Матери в серебряной ризе. Кроме того, графиня Анна Орлова-Чесменская украсила на свои средства ризницу церкви. В 1852 году, благодаря усилиям валаамского игумена Дамаскина, обитель получила икону валаамских чудотворцев Сергия и Германа. К 1879 году братия состояла из девяти человек, а земельные владения обители составляли 75 десятин.
В 1902 году пустынь получила самостоятельность, однако ее доходы были невелики, и в 1909 году она была преобразована в женскую обитель. Одной из целей пустыни стало просвещение местного карельского населения. К 1911 году в обители проживало 18 человек.
После Октябрьской революции 1917 года пустынь была закрыта, ее земли и имущество переданы образованному животноводческому совхозу. Часть сестер вошла в православную общину деревни Сяндеба. Во время Советско-финской войны (1941–1944) вблизи монастыря проходила линия фронта, и все его здания были уничтожены.
В настоящее время Успенская Сяндемская пустынь возрождена как женский монастырь. Были возведены деревянный Троицкий храм, жилые и хозяйственные постройки. В 2013 году митрополитом Петрозаводским и Карельским Мануилом был освящен фундамент строящегося Успенского храма. Строительство каменного Успенского храма было начато в августе 2013 года и велось по сохранившимся фотографиям утраченной церкви во имя святителей Афанасия и Кирилла. Вероятно, этот храм был построен в 1865 году по проекту из альбома образцовых проектов церквей, разработанных Константином Тоном. По такому же проекту были построены многие храмы в России в XIX веке.
