Он представляет собой значимый образец церковного зодчества конца XVII века.
Первоначально на месте современного храма существовала деревянная церковь, возведённая в начале XVII века первыми поселенцами Стрелецкой слободы. Каменное здание было построено в 1693 году в стиле московского (Нарышкинского) барокко. Этот стиль характеризуется использованием центрических композиций, архитектурного ордера и декоративных элементов, таких как кокошники и поребрики.
В 1711 году к основному объёму храма были пристроены трапезная и колокольня. В 1824 году была возведена новая колокольня. В течение XVIII–XIX веков храм неоднократно перестраивался и расширялся, в том числе были добавлены два придела: правый — в честь Благовещения Пресвятой Богородицы, левый — во имя святителя Николая Чудотворца.
Архитектурно здание представляет собой кубический объём, увенчанный пятью декоративными главами — центральной и четырьмя малыми. Фасады украшены фигурной кирпичной кладкой, наличниками окон, карнизами и перспективным порталом. Внутреннее убранство включает иконостас и фресковую роспись, выполненную в традициях русской иконописи конца XVII — начала XVIII века.
В начале 1930-х годов храм был закрыт, и в его здании размещался архив НКВД. В 1944 году, по просьбам верующих, церковь была вновь открыта и стала единственным действующим православным храмом Саранска. С 1991 года, после образования Саранской и Мордовской епархии, храм получил статус кафедрального собора. В 2006 году, после освящения нового кафедрального собора во имя святого праведного воина Феодора Ушакова, Иоанно-Богословский храм утратил статус кафедрального, но продолжает функционировать как приходской храм.