В 1670 году, в ходе восстания под предводительством Степана Разина, Алатырь подвергся нападению. Отряд атамана Осипова захватил город, и деревянный храм был сожжён вместе с укрывшимися в нём воеводой и боярами.
После подавления восстания, по приказу царя Алексея Михайловича, в 1703 году на месте сгоревшей деревянной церкви был возведён каменный храм Усекновения главы Иоанна Предтечи. Строительство осуществлялось мастерами, присланными из Москвы. Архитектурно здание представляет собой бесстолпный четверик с полукруглой апсидой и трапезной, завершённый декоративным пятиглавием в московском стиле. В начале XIX века к западному фасаду был пристроен портик.
В 1932 году храм был закрыт, и его помещения использовались под склад. В 1970-х годах здание было отреставрировано и передано краеведческому музею, который открылся в 1977 году. В 2000 году храм был возвращён Русской Православной Церкви.
