Село Жилино образовалось в середине XVIII века. Согласно историческим данным, первые поселенцы были выходцами из слободы Новобелой, среди них выделялся Степан по прозвищу Жила с тремя сыновьями. Поселение первоначально именовалось хутором Жилино, а к 1779 году насчитывало 41 двор. Статус села оно получило после постройки в 1801 году деревянной церкви Благовещения Пресвятой Богородицы.
Деревянный храм впоследствии был продан на слом, а на его месте началось возведение кирпичного здания. Первая часть церкви, включая колокольню и трапезную, была завершена к 1829 году, а вторая — храмовая часть с двумя приделами — к 1886 году. Южный придел освящен в честь Вознесения Господня, северный — в честь святителя Тихона Задонского. Строительство велось на средства прихожан, преимущественно крестьян.
В 1943 году, после освобождения села от немецкой оккупации, храм был отреставрирован и вновь открыт для богослужений. Однако в 1964 году его закрыли, а здание использовали под склад. В 2009 году церковь возвращена верующим, и в ней возобновились регулярные богослужения. Архитектурный комплекс включает элементы классицизма (колокольня и трапезная, 1801 г.) и более поздние кирпичные конструкции (1882 г.).
Приход храма в XIX веке охватывал не только село Жилино, но и близлежащие хутора — Александровский и Пшеничный. В настоящее время церковь является памятником истории и культуры, взята под государственную охрану Воронежской области.