Первые упоминания о храме в Таврове относятся к началу XVIII века. Согласно архивным данным, в 1700 году в городе Таврове существовала соборная церковь Преображения Господня, о чем свидетельствует запись на богослужебной книге, датированной мартом 1700 года. В документе указано, что книга принадлежала соборной церкви Преображения Господня города Таврова, а подпись оставил священник Михаил.
Вскоре после основания города Таврова в 1705 году появляются сведения о деревянной Петропавловской церкви. В 1730 году при ней служили протопоп Яков и священник Максим. К 1757 году в городе числились две церкви - Преображенская и Петропавловская, но к концу XVIII века осталась только последняя.
В 1798-1799 годах деревянная Петропавловская церковь была перестроена в каменную с приделом во имя великомученицы Варвары. Освящение обновленного храма совершил 27 июня 1799 года воронежский епископ Мефодий (Смирнов). В храме сохранялась храмозданная грамота вплоть до революционных событий XX века.
В 1864 году на средства церковного старосты, капитана Андрея Карпова, были перестроены трапезная часть и колокольня. Среди особо почитаемых святынь храма отмечались древние иконы: храмовый образ святых апостолов Петра и Павла, иконы святителя Николая Мирликийского и Иоанна Предтечи. Особое почитание имела Казанская икона Божией Матери в серебряной позолоченной ризе, в честь которой был устроен отдельный придел.
Ежегодно 29 июня, в храмовый праздник, перед поздней литургией совершалась панихида по императору Петру Великому в память о его посещениях Таврова во время кораблестроительных работ. По преданию, для этой службы использовались ризы, пожертвованные самим Петром I.
В начале XX века храм был разрушен. В 2002 году в микрорайоне Масловка, расположенном ближе к центру Воронежа, был образован приход в честь святых апостолов Петра и Павла. 8 июля 2002 года состоялась закладка камня в основание нового храма, а 17 ноября 2018 года было совершено его великое освящение.