Первое упоминание о храме на Ильинском погосте датируется 1500 годом, когда на высоком левом берегу реки Волхов существовала деревянная церковь, принадлежащая Никольскому Ладожскому монастырю. В 1691 году на этом месте была возведена новая деревянная церковь во имя пророка Илии. 22 июня 1848 года эта церковь сгорела после удара молнии.
В 1847 году, на средства новоладожского купца Егора Ивановича Ильинского и староладожского помещика Алексея Романовича Томилова, началось строительство нового каменного храма по проекту архитектора Николая Александровича Сычёва. Подрядчиком выступил Филипп Михайлович Зуев. В 1848 году строительство было завершено, и храм был освящён во имя пророка Илии.
В 1860 году рядом с Ильинской церковью, на средства купца Ильинского, была построена деревянная кладбищенская церковь во имя Знамения Божией Матери. Ильинская церковь оставалась холодной и не имела отопления, тогда как Знаменская церковь была тёплой.
В советский период, начиная с 1939 года, храм был закрыт и использовался не по назначению, что привело к его постепенному разрушению. В 2003 году здание церкви было возвращено Русской Православной Церкви, после чего начались восстановительные работы. 1 августа 2008 года в храме Илии Пророка был совершён чин освящения.