Первое упоминание о деревянной церкви в селе Рыкань относится к 1690 году. Согласно данным краеведа Г. Германова (1857), в конце XVII века в Малая Усмань Рыкань была построена деревянная церковь во имя Архангела Михаила. К 1746 году в селе насчитывалось 60 дворов.
В 1782 году на месте прежней деревянной церкви была возведена каменная Архангельская церковь. В 1913–1914 годах к храму были пристроены два боковых придела с алтарями, а также устроено водяное отопление. Объёмно-планировочная композиция храма характерна для периода барокко конца XVIII века. К четверику храма с полуглавиями примыкает крупный световой восьмерик с гранёным куполом, увенчанный небольшим восьмериком главки с проёмами по сторонам света. К четверику также примыкают полукруглая апсида (1782), боковые приделы с прямоугольными алтарями (1914), вытянутая трапезная с закруглённой западной частью (1782). Композицию завершает четырёхъярусная колокольня со сферическим куполом, увенчанная высоким шпилем с крестом (1782). Четверик первого яруса колокольни заужен относительно трапезной; второй и третий ярусы — восьмерики с узкими диагональными гранями; четвёртый — цилиндрический полуярус.
Архитектура фасадов сочетает нарядные формы позднего барокко (храмовая часть, апсида, трапезная) и строгие черты классицизма в решении декора колокольни, с включением элементов эклектики в декоре приделов храма. Рустованные лопатки огибают углы восьмерика и равномерно членят объём трапезной и апсиды. Фасады приделов храма и двух ярусов колокольни завершены треугольными фронтонами. Широкий гладкий фриз антаблемента с поясом сухариков поддерживают полуколонны со стилизованными капителями; полуколонны трёхчастно делят фасады приделов. В диагональных гранях второго яруса колокольни расположены ниши — эскедры. Верхняя часть всех ярусов декорирована круглыми розетками. Лучковые окна восьмериков, трапезной и апсиды оформлены в нарядных крепованных наличниках, характерных для периода барокко: в восьмериках они заключены в узкие прямоугольные рамки, завершены трёхступенчатыми бровками в дополнительные рамки; внизу — фартуки. В нижних объёмах — рамки «ушастые», фартуков нет. Арочные проёмы приделов и второго яруса колокольни имеют импосты; они же присутствуют в основании полукружий второго яруса и перспективных порталах храма.
В 1920-х годах церковь была закрыта, и на протяжении почти 70 лет в её здании размещались ремонтные мастерские и склад. В 1990-х годах храм был возвращён Воронежской епархии. В 2000 году на пожертвования прихожан был отремонтирован северный придел, и в храме возобновились богослужения. В настоящее время церковь находится в эксплуатации; в ней проведено электричество и организована православная библиотека.
