Село Байка было основано в период между 1770 и 1790 годами помещицей Салтыковой, которая переселила сюда крестьян из Владимирской губернии. К началу XIX века село стало значимым центром местной жизни, что обусловило необходимость строительства каменного храма для обеспечения духовного окормления населения.
В 1831 году на средства прихожан был возведён каменный однопрестольный храм во имя святых бессребреников Космы и Дамиана. Архитектура храма выполнена в стиле классицизма. Основной объём представляет собой четверик, завершённый ротондой с куполом, прорезанным полукруглыми окнами. Северный и южный фасады украшены портиками с треугольными фронтонами. С восточной стороны примыкает полукруглая апсида, с западной — небольшая трапезная, соединённая с трёхъярусной колокольней. Два нижних яруса колокольни служат основанием для яруса звона, над которым расположен четвериковый барабан. Западный вход оформлен порталом с двумя колоннами, поддерживающими треугольный фронтон. Над окнами нижнего яруса колокольни и апсиды размещены треугольные сандрики.
Внутреннее убранство храма включало деревянный иконостас с резными элементами, иконы, выполненные местными мастерами, а также церковную утварь, необходимую для совершения богослужений. Особое место занимала икона святых бессребреников Космы и Дамиана, являвшаяся главной святыней храма.
В период советской власти, начиная с 1930-х годов, храм был закрыт, как и многие религиозные учреждения того времени. Здание использовалось в хозяйственных целях, что привело к утрате части интерьера и архитектурных элементов. Колокольня была частично разрушена, иконы и церковная утварь исчезли.
В настоящее время храм находится в состоянии частичной сохранности. Здание требует реставрационных работ для восстановления первоначального облика и архитектурных деталей. Несмотря на это, храм остаётся значимым объектом культурного наследия региона, отражающим архитектурные и духовные традиции Пензенской области.
