Первый каменный храм на месте современного Успенского собора был заложен в 1215 году по повелению ростовского князя Константина Всеволодовича. Строительство завершилось в 1219 году, и храм был освящен в честь Успения Пресвятой Богородицы. В отличие от других храмов Северо-Восточной Руси, он был построен из кирпича, а не из белого камня, с декоративными элементами из резного известняка. Пол храма был выложен майоликовой плиткой, а двери украшены золоченой медью.
В 1238 году собор был разграблен войсками хана Батыя, но не разрушен полностью. В 1501 году пожар уничтожил своды храма, а при расчистке завалов были обретены мощи князей Василия и Константина Всеволодовичей. К 1516 году на этом месте возвели новый храм, меньший по размерам, с приделом «на полатях» в западной части.
В 1643–1646 годах, из-за ветхости прежнего здания, был построен новый пятиглавый собор с 55-метровой шатровой колокольней. В 1658 году пожар повредил кровлю и главы храма, после чего его перестроили, добавив каменные крыльца. В 1670-х годах интерьер был расписан фресками, сохранявшимися до XIX века.
В XVIII–XIX веках собор неоднократно перестраивался: в 1788 году он стал кафедральным после переноса епархии в Ярославль, в 1832–1833 годах к нему пристроили теплую церковь, а в 1836 году возвели новую колокольню. В 1844 году купола впервые покрыли золотом.
В 1918 году собор пострадал от артиллерийского обстрела во время антибольшевистского восстания. В 1922 году его передали бирже труда, а в 1937 году взорвали. Археологические раскопки в XX веке не выявили остатков первоначального храма XIII века.
В 2004–2010 годах собор был восстановлен по новому проекту к 1000-летию Ярославля. Современное здание, выполненное в стиле, близком к московскому зодчеству, имеет площадь около 2000 м² и высоту 50 м. В цокольном этаже размещены зал церковных соборов, музей и трапезная.
