Первое упоминание о храме относится к концу XVI века, когда на этом месте была возведена деревянная церковь. Из этого храма происходит древняя Ярославская икона Божией Матери 1491 года, ныне хранящаяся в Третьяковской галерее.
В 1780 году на месте деревянной церкви была построена каменная церковь. Однако в 1834 году, благодаря пожертвованиям Георгия Фёдоровича и Галактиона Герасимовича Бакулиных, было возведено новое здание храма. При этом старое здание 1780 года было оставлено рядом, но в 1930-е годы XX века оно было разрушено.
Архитектурно Ильинский храм представляет собой кирпичное здание с белокаменным цоколем и множеством деталей отделки, выполненное в стиле ампир. Куб четверика венчается ротондой и барабаном с единственной главкой, с запада примыкает трапезная и четырёхъярусная колокольня.
В советский период храм был закрыт и использовался для различных хозяйственных нужд. В 1990-х годах здание храма было возвращено Русской Православной Церкви, после чего начались восстановительные работы. В настоящее время Ильинский храм является действующим, в нём регулярно проводятся богослужения. Здание церкви признано объектом культурного наследия регионального значения и находится под охраной государства.