Село Чемал возникло из Чемальского стана Алтайской духовной миссии, основанной в 1828–1830 годах. В 1850-х годах в Чемале был построен Иоанно-Богословский миссионерский храм, ставший центром миссионерской деятельности в регионе. К началу 1870-х годов храм обветшал и не вмещал всех прихожан. Жители села начали строительство нового храма, средства на которое пожертвовал бийский купец А.В. Соколов.
В 1914 году в Чемале была построена новая церковь иконы Божией Матери «Всех скорбящих Радость». Старую церковь перебрали, заменили нижние венцы и установили на выровненной площадке на скале, где она была освящена во имя святого апостола-евангелиста Иоанна Богослова. К этому событию на остров был построен пешеходный мост с опорой на лиственничных укосинах.
Современное здание храма было построено в 1999 году. 5 июля 1999 года храм был освящён епископом Барнаульским и Алтайским Антонием и архиепископом Красноярским и Енисейским Антонием. Колокола в звоннице зазвучали в тот же день. Архитектурный облик храма выполнен в традиционном русском стиле с использованием кирпича и украшен куполами. Внутреннее убранство включает иконостас и росписи, соответствующие канонам православной церкви.