Преподобный Арсений, после пребывания на Афоне, стремился обратить карельские племена-язычников в христианство и выбрал для основания обители остров Коневец.
Остров Коневец, размером около 5 на 2 километра, расположен примерно в 5 километрах от материка и отделён от него Коневецким проливом. До основания монастыря остров служил местом языческих обрядов финно-угорских племён, которые поклонялись крупному валуну весом более 750 тонн, известному как Конь-камень. Форма камня напоминает голову лошади, что, вероятно, и послужило основой для его названия, а впоследствии и названия самого острова.
В 1421 году преподобный Арсений заложил на острове собор Рождества Богородицы, ставший главным храмом монастыря. Основной святыней обители являлась чудотворная Коневская икона Божией Матери, привезённая Арсением с Афона. Икона изображает Богородицу с Младенцем Христом, держащим в руке птенца голубя, символизирующего духовную чистоту.
В период Русско-шведской войны 1614–1617 годов монастырь был захвачен шведскими войсками, и братия была вынуждена покинуть остров, найдя приют в Деревяницком монастыре под Новгородом. После возвращения этих земель России в ходе Великой Северной войны, в 1718 году по указу Петра I началось восстановление обители. Восстановленный монастырь находился в зависимости от Деревяницкого монастыря до 1760 года, когда получил статус самостоятельного.
В XIX веке монастырь пережил период расцвета. В 1800–1809 годах был построен новый собор с пятью куполами, а в 1810–1812 годах — колокольня высотой 35 метров. В это время были также основаны два скита: Казанский и Невский. В 1858 году обитель посетил император Александр II с семьёй. Монастырь стал известен далеко за пределами региона, его посещали такие деятели культуры, как Фёдор Тютчев, Николай Лесков и Александр Дюма.
После Октябрьской революции 1917 года и последовавшей за ней Финской войны 1939–1940 годов, территория, на которой расположен монастырь, отошла к Финляндии. Монастырь перешёл под управление Финской православной церкви, а в его помещениях разместились финские военные. В 1940 году, после Зимней войны, монахи эвакуировались, взяв с собой некоторые святыни, включая чудотворную Коневскую икону Божией Матери. Икона ныне находится в Ново-Валаамском монастыре в Финляндии.
В советский период на территории монастыря располагалась военная часть. В 1990 году обитель была возвращена Русской Православной Церкви, и началось её возрождение. В 2004 году были проведены значительные реставрационные работы, направленные на восстановление исторического облика монастыря.
В 2016 году было подписано соглашение о сотрудничестве в деле возрождения и реставрации Коневского монастыря между компанией «Роснефть», правительством Ленинградской области и Выборгской епархией. В 2019 году Патриарх Московский и всея Руси Кирилл совершил чин великого освящения верхнего храма собора Рождества Пресвятой Богородицы.
