На месте нынешнего храма в XVI веке существовал Иоанно-Богословский мужской монастырь, известный также как «Богословская пустынь». Монастырь был разорен и сожжен в 1604 году во время литовского набега. Согласно царской грамоте 1689 года, выданной Петром и Иоанном Алексеевичами, земля и угодья бывшего монастыря были переданы Борисоглебскому Новоторжскому монастырю. На месте престола разрушенного храма был установлен каменный крест с надписью, который сохранялся до 1778 года и ныне вмонтирован в восточную алтарную стену действующей церкви.
Существующий каменный храм во имя святого апостола и евангелиста Иоанна Богослова был построен в 1782 году на средства купца Ивана Якимовича Морозова. Храм возведен на городском кладбище, открытом в 1772 году для захоронений прихожан нескольких церквей Торжка. Императрица Екатерина II во время проезда через город передала Морозову икону святого Иоанна Богослова, которая была помещена в иконостас над могилой его сына, отрока Иоанна. Ежегодно 8 мая в память об этом событии совершался крестный ход из Борисоглебского монастыря.
В 1844 году вокруг кладбища была возведена каменная ограда с арочным въездом на средства купца Бителева. В 1865-1867 годах церковь underwent капитальный ремонт, финансируемый церковным старостой Яковом Никитичем Уваровым. В ходе работ был обновлен иконостас, заменены полы, а на плафоне трапезной написана картина «Воскрешение мертвых» с изображением храма и окружающих его кладбищенских памятников. После ремонта храм был освящен в честь Иоанна Богослова и его брата апостола Иакова Зеведеева.
В 1939 году храм был закрыт советскими властями. Здание использовалось не по назначению и пришло в упадок. В 1990 году начались восстановительные работы по инициативе местных жителей и руководителей предприятий. В 1993 году храм был возвращен Русской Православной Церкви и вновь освящен. В 2005 году проведены работы по реставрации фасада, замене покрытия пола и модернизации системы отопления.