В 1699 году в пригородной слободе Пески был построен деревянный храм во имя Архангела Михаила. Со временем деревянная постройка обветшала, и возникла необходимость в возведении нового храма.
В 1820 году на месте старой деревянной церкви началось строительство каменного храма в стиле провинциального классицизма. Строительство продолжалось несколько лет, и в 1827 году храм был освящён. Архитектурно здание представляет собой однокупольный храм с четырёхколонным портиком и колокольней, что характерно для храмов того периода.
В советский период, когда многие религиозные учреждения подвергались закрытию или перепрофилированию, храм Архангела Михаила в Острогожске также был закрыт. Здание использовалось для различных хозяйственных нужд, что привело к утрате многих элементов внутреннего убранства и частичному разрушению архитектурных деталей.
В конце XX — начале XXI века начался процесс возвращения религиозных объектов Русской Православной Церкви и их восстановления. В этот период храм Архангела Михаила был возвращён верующим, и начались работы по его реставрации. Были восстановлены основные архитектурные элементы, проведены работы по воссозданию внутреннего убранства и благоустройству прилегающей территории.
В настоящее время храм Архангела Михаила в Острогожске является действующим и продолжает служить духовным центром для местных жителей. В нём регулярно проводятся богослужения.