Строительство каменного храма было завершено в 1803 году на месте ранее существовавшей деревянной церкви. Средства на возведение храма были собраны местными прихожанами. В 1823 году к основному объёму храма были пристроены два придела: один в честь Архистратига Михаила, другой — во имя Великомученицы Параскевы Пятницы, в память об обретении чудотворной иконы этой святой на источнике близ Нового Оскола.
Архитектурно храм выполнен в стиле строгого классицизма с элементами ампира. Здание имеет форму, напоминающую корабль, что характерно для новгородской архитектурной традиции. Фасады украшены симметричными элементами, а центральный объём завершается куполом. Колокольня, пристроенная к основному объёму, также выполнена в соответствии с канонами классической архитектуры.
До революционных событий начала XX века храм имел значительный приход и материальную базу. При нём действовали церковно-приходская школа и благотворительное заведение для размещения беспомощных нищих. К 1915 году число прихожан превышало три тысячи человек.
С установлением советской власти в 1930-х годах богослужения в храме были прекращены. Здание использовалось для различных хозяйственных нужд, включая размещение кузницы, склада и зернохранилища. В 1943 году, после освобождения территории от немецко-фашистских захватчиков, храм вновь стал использоваться для проведения богослужений.
В 1960-х годах была восстановлена разрушенная во время войны колокольня, и установлены колокола общим весом более одной тонны. В 1996 году к ним был добавлен ещё один колокол весом 640 килограммов.
С 2005 года при храме функционирует духовно-просветительский центр. Главной святыней храма являются мощи и икона Великомученицы Параскевы Пятницы.
В настоящее время храм Успения Пресвятой Богородицы действует и является центром духовной жизни города Новый Оскол. Он служит местом проведения богослужений, обрядов и церковных праздников для местных жителей и прихожан из близлежащих населённых пунктов.
