После завершения Гражданской войны и установления советской власти посёлок Донгузский был ликвидирован, а находившаяся в нём приходская церковь в честь иконы Божией Матери была разрушена. Впоследствии, на месте бывшего посёлка Донгузский возник новый населённый пункт — посёлок Первомайский.
В 1995 году, по инициативе командования Донгузского гарнизона, с целью противодействия распространению деструктивных культов, было принято решение об открытии православного прихода в честь святого великомученика Георгия Победоносца. Управление Донгузского испытательного полигона предоставило здание, ранее использовавшееся как отделение фабрики Оренбургских пуховых платков, для обустройства в нём молитвенного дома.
11 августа 2004 года приход был официально зарегистрирован как местная религиозная организация. Согласно данным Единого государственного реестра юридических лиц, организация имеет следующие реквизиты: ИНН 5638017011, ОГРН 1045600003767.
В 2015 году в посёлке Первомайский, на станции Донгуз, началось строительство нового православного храма в честь Всех святых, в земле Русской просиявших. Это событие стало важным этапом в развитии православной общины посёлка, свидетельствуя о стремлении верующих к расширению и укреплению духовной жизни.
