Храм пророка Илии на горе Кармель в Хайфе был основан в 1909 году, когда Русская духовная миссия в Иерусалиме приобрела участок земли для строительства православного подворья. Первоначально турецкие власти не разрешали возведение церкви, поэтому по инициативе архимандрита Леонида (Сенцова) на участке была построена трапезная для паломников. Проект здания в форме греческого креста разработал инженер Борис Гуревич.
В 1912 году началась перепланировка трапезной в храм: к зданию пристроили алтарь, возвели колокольню и установили одноярусный иконостас из серого мрамора. Часть церковной утвари была перенесена из Троицкого собора в Иерусалиме, остальное составляли пожертвования. Официальное разрешение на преобразование здания было получено в 1913 году в связи с празднованием 300-летия дома Романовых, в честь чего подворье получило название «Романовское».
14 ноября 1913 года храм был освящен Патриархом Иерусалимским Дамианом. В отчетах Русской духовной миссии отмечалась скромность архитектуры и убранства храма, выполненного в греческом стиле, но соответствующего нуждам немногочисленных православных арабов и паломников.
После начала Первой мировой войны приток паломников из России прекратился, и храм долгое время оставался без постоянного священника. В 1920-1930-х годах богослужения совершал арабский православный священник протоиерей Николай, похороненный впоследствии на территории подворья. В последующие десятилетия службы проводились лишь эпизодически, когда храм посещали паломники со священниками.
После образования государства Израиль в 1948 году храм перешел в ведение Московского Патриархата. В 1991 году, с назначением постоянного настоятеля, началось возрождение приходской жизни. В июле 2002 года храм подвергся осквернению: на стенах были нанесены антихристианские надписи и символы.