Церковь Илии Пророка в Ярославле была построена в 1647–1650 годах на месте двух деревянных храмов — холодной церкви Илии Пророка и теплой церкви Покрова Богоматери. Строительство осуществлялось на средства ярославских купцов братьев Вонифатия и Иоанникия Скрипиных, принадлежавших к гостиной сотне. Храм возведен артелью местных мастеров, имена которых остались неизвестными.
В 1650 году, по завершении строительства, патриарх Иосиф даровал Скрипиным частицу ризы Христа, ранее хранившуюся в Успенском соборе Московского Кремля. В честь получения этой святыни был сооружен шатровый Ризоположенский придел. Во время городского пожара 1658 года церковь обгорела снаружи, но внутреннее убранство не пострадало.
Роспись храма выполнена в 1680 году артелью из 15 мастеров под руководством костромских изографов Гурия Никитина и Силы Савина. Работы велись по заказу вдовы Вонифатия Скрипина — Иулиты Макаровны. Основные темы росписей — евангельские события, деяния апостолов, житие пророка Илии и его ученика пророка Елисея. В южной стене находится фреска «Жатва».
В 1696 году в храме установлен золоченый резной иконостас. Большая часть икон нижнего яруса приписывается иконописцу Федору Зубову. В подклете северного придела Гурия, Самона и Авива располагалась усыпальница Скрипиных, где сохранились семь белокаменных надгробий.
После реконструкции Ярославля по регулярному плану 1778 года церковь Илии Пророка оказалась в центре Ильинской площади (ныне Советской). В 1896 году по проекту академика А.М. Павлинова вокруг храма сооружена ограда. В 1898–1904 годах проведены ремонтно-реставрационные работы на средства городского головы И.А. Вахрамеева.
В 1920 году здание передано Ярославскому музею-заповеднику. В 1938–1941 годах в храме размещался антирелигиозный музей, где под куполом был подвешен маятник Фуко. Реставрационные работы проводились в 1955–1956, 1960 и 1983 годах. В 1989 году главный престол церкви вновь освящен, с этого времени в летний период в храме проводятся богослужения.