В конце XVIII века было принято решение об упразднении прихода Святого Николая, известного как церковь «Николы Мокрого», расположенного близ впадения реки Трубеж в Оку. Приход был перенесён на юго-западную окраину Рязани, в Ямскую слободу, населённую преимущественно ямщиками и извозчиками. Строительство нового каменного храма завершилось в 1788 году. При возведении здания использовались материалы от упразднённой церкви «Николы Мокрого», включая кирпич и иконостас, а также храмовую икону Николая Чудотворца.
В 1822 году рядом с церковью была построена высокая трёхъярусная колокольня. В последующие годы храм неоднократно перестраивался: в 1826 году была расширена придельная часть, в 1837 и 1845 годах проводились работы по реконструкции основного здания. Архитектурный облик церкви сформировался в стиле позднего классицизма. Здание представляет собой трёхсветный четверик, перекрытый сводом, на котором расположены пять небольших куполов. В западной части находятся четырёхстолпная трапезная и трёхъярусная колокольня. Фасады украшены четырёхколонными портиками, придающими зданию величественный вид.
Изначально в храме было три престола: главный — в честь Святого Николая Чудотворца, правый придел — во имя мучеников Флора и Лавра, левый — во имя преподобного Марона Чудотворца. В 1862 году был устроен четвёртый придел во имя священномученика Григория, просветителя Великой Армении.
В 1920-х годах, после установления советской власти, храм был закрыт. В 1933 году были демонтированы четырёхколонные портики и верхние ярусы колокольни. В 1950-х годах разрушены ограда, часовни и хозяйственные постройки. Здание использовалось под различные нужды, включая размещение пивоваренного завода, что привело к значительным изменениям внутреннего пространства: были заложены нижние боковые окна, установлены междуэтажные перекрытия, пробиты новые оконные проёмы, снесены главы, а купольная кровля заменена на скатную.
В 1992 году здание церкви было возвращено Русской Православной Церкви, после чего начались реставрационные работы. К 1996 году были разобраны поздние пристройки, восстановлены купол и пятиглавие четверика, отреставрированы фасады, заново расписаны своды в главном алтаре. В период с 2001 по 2005 годы восстановлены верхние ярусы колокольни, портик и оконные проёмы на северном фасаде трапезной. Однако не удалось полностью вернуть интерьеру храма первоначальный вид из-за сохранившихся железобетонных перекрытий.
С ноября 2009 года Николо-Ямская церковь является епархиальным подворьем. В здании располагаются православная библиотека, читальный зал и епархиальные учреждения. В храме хранятся святыни, включая раку с мощами святой блаженной Любови Рязанской, икону святителя Николая Чудотворца, икону святителя Луки с частицей его мощей, икону великомученика Пантелеимона с частицей его мощей, ковчег с частицей мощей святителя Николая Чудотворца, киот с скульптурным изображением святителя Николая Чудотворца, ковчег с частицей мощей священномученика Григория, просветителя Великой Армении, ковчег с частицей мощей мученика Трифона, ковчег с частицей мощей святителя Иоасафа Белгородского.
