История храма восходит к середине XIX века. В 1839 году началось строительство каменного трёхпрестольного храма на месте прежних деревянных церквей. Строительство завершилось в 1849 году. Главный престол был освящён в честь Святой Троицы, а приделы — в честь Рождества Богородицы и святой Параскевы Пятницы.
Архитектурно храм представлял собой большой каменный однокупольный храм в стиле позднего классицизма с трапезной и колокольней. В 1887—1889 годах были проведены работы по расширению трапезной и возведению новой многоярусной колокольни. Эти изменения придали храму величественный облик и сделали его архитектурной доминантой местности.
В 1930-е годы, в период гонений на церковь, храм пострадал: были разрушены прилегающие постройки, а кладбище, расположенное рядом, уничтожено. К 1980-м годам здание пришло в аварийное состояние. Однако в 1989 году храм был возвращён верующим, и с 2000 года начались восстановительные работы.
В 1991 году, в связи с невозможностью быстрого восстановления Пятницкой церкви на Берёзовке, была организована церковная община, разместившаяся в частном деревянном доме, пострадавшем от пожара. Этот дом принадлежал ранее репрессированному предпринимателю Александру Кондакову. В неприспособленном для богослужений доме были проведены ремонтные работы: пристроен каменный алтарь, установлен купол, а позже возведена колокольня. В 2005 году художником И.А. Андреевым была выполнена роспись храма в традиционном гуслицком стиле.
В настоящее время Параскевинский храм в деревне Горбачиха является действующим и продолжает служить духовным центром для местных жителей. При храме проводятся богослужения, а также организуются мероприятия для детей из многодетных и малообеспеченных семей. Так, 10 ноября 2021 года, в день памяти святой великомученицы Параскевы, в храме состоялась Божественная литургия, после которой прошёл концерт для детей в рамках акции «Согреем детские сердца».