Преподобный Феодосий прибыл в эти места на заре советской власти с намерением основать монашескую общину. Согласно преданию, он в течение семи дней и ночей молился на камне, прося у Господа указания. В ответ на его молитвы на камнях зазеленел барвинок, что было воспринято как знак места для строительства церкви и обустройства источника. Этот источник, появившийся по молитвам Феодосия, стал известен своими целебными свойствами и привлекал множество паломников. Барвинок продолжает расти в этой местности и поныне.
В период пребывания Феодосия в хуторе была возведена деревянная церковь. Однако до наших дней она не сохранилась. Впоследствии, рядом с источником, была построена часовня и новый храм во имя иконы Божией Матери «Живоносный Источник». Точные даты строительства этих сооружений в доступных источниках не указаны.
В 1927 году преподобный Феодосий был арестован и отправлен в Новороссийск. В 1929 году его осудили по статье 58 за антисоветскую агитацию и пропаганду, после чего он был заключен в Соловецкий лагерь на три года. Затем последовала ссылка в Караганду. После освобождения в 1932 году Феодосий поселился в Минеральных Водах, где принял подвиг юродства.
В годы Великой Отечественной войны Феодосий проявил себя как прозорливец и чудотворец. Известен случай, когда он спас детей, уведя их из школы незадолго до того, как в здание попала бомба. Также он предотвратил взрыв вагона со снарядами, отведя его с места, куда впоследствии упала бомба.
Преподобный Феодосий предсказал свою кончину за три дня до смерти, сказав: «Через три дня конец свету». В день его смерти в пустыни хутора Горный упало большое дерево, пень которого, по свидетельствам местных жителей, ежегодно начинает цвести 8 августа.
