Храм Иерусалимской иконы Божией Матери в Таганроге был основан в 2000 году по благословению архиепископа Ростовского и Новочеркасского Пантелеимона. Строительство завершилось в 2004 году, и 25 октября того же года состоялась первая Божественная литургия. Храм возведен в классическом древнерусском стиле, с одноглавым куполом, и расположен на выезде из города, что символично для иконы «Одигитрии» (Путеводительницы).
Иерусалимская икона Божией Матери, в честь которой освящен храм, имеет древнее происхождение. Согласно преданию, она была написана апостолом Лукой в Гефсимании на 15-й год после Вознесения Христа. В V веке икона была перенесена в Константинополь, где прославилась чудесной защитой города от нашествия скифов. В X веке образ попал в Херсонес, откуда князь Владимир перенес его в Киев, а затем в Новгород, где икона находилась более четырех столетий.
В XVI веке Иерусалимская икона была перевезена в Москву и помещена в Успенский собор Кремля. В 1812 году она была вывезена французами и до настоящего времени находится в соборе Парижской Богоматери. В России остались чтимые списки с этой иконы, один из которых, местночтимый, пребывает в храме Рождества Христова в Измайлове.
Храм в Таганроге является частью Ростовской и Новочеркасской епархии Русской Православной Церкви. В его стенах хранятся частицы мощей святых, включая святителя Николая Чудотворца, преподобного Серафима Саровского и праведного Павла Таганрогского. При храме действуют воскресная школа и библиотека духовной литературы.
21 мая 2013 года на звонницу были установлены три купола с крестами, освященными митрополитом Ростовским и Новочеркасским Меркурием. В 2017 году митрополит Меркурий совершил в храме Божественную литургию в среду Светлой седмицы.