Первое документальное упоминание о деревянной Леонтьевской церкви в Ярославле относится к 1608 году. В 1635 году на её месте ростовским купцом Василием Федотовым Мальгиным был возведён каменный храм с приделом во имя Девяти Мучеников Кизических. В 1688 году ярославский купец Иван Иванович Мякушкин финансировал строительство холодного однопрестольного храма Рождества Христова.
В 1779 году в связи с утверждением нового генерального плана застройки Ярославля Леонтьевский приход был упразднён, а храмовые здания разобраны. В 1783 году архиепископ Самуил Миславский принял решение о переносе храма на новоучреждённое городское кладбище по Угличской дороге. Строительство завершилось в 1791 году, 23 мая состоялось освящение нового храма во имя святителя Леонтия Ростовского.
В 1793 году в храме был устроен придел Девяти Мучеников Кизических, а в 1796 году - придел во имя Феодора Стратилата. В 1806-1809 годах подрядчик Семён Степанович Завязошников с помощниками выполнил стенную живопись, включавшую 107 сюжетов. В 1834 и 1888 годах фрески поновлялись.
В 1928 году под храмом был погребён митрополит Ярославский и Ростовский Агафангел. В 1941 году храм закрыли. В феврале 1992 года здание возвращено Русской Православной Церкви. В 1998 году состоялось обретение мощей митрополита Агафангела. В 2004 году на потолке под куполом проявилась ранее скрытая фреска, которая была восстановлена.
Храм имеет три престола: главный - во имя святителя Леонтия Ростовского (престольный праздник 23 мая по старому стилю), придельные - во имя Феодора Стратилата (8 февраля и 8 июня по старому стилю) и Девяти Мучеников Кизических (29 апреля по старому стилю). В храме находятся почитаемые святыни: мощи священноисповедника Агафангела, икона блаженной Матроны Московской с частицей гроба и икона преподобного Амвросия Оптинского с частицей гроба.
