В 1858 году купец Иван Осетров инициировал строительство деревянной часовни «за петербургскими воротами на берегу между пароходными мостами». Доходы от этой часовни предполагалось направить на строительство новой Богоявленской церкви, однако этот проект не был реализован. Деревянная часовня простояла до 1903 года, после чего была перенесена к Кронштадтским воротам.
К 200-летию Кронштадта было принято решение о возведении на месте старой часовни новой каменной постройки. Проект разработали архитектор Василий Антонович Косяков и его помощник Александр Иванович Виксель. Строительство осуществлялось под руководством Викселя при участии инженера Владимира Павловича Шаверновского. Подрядчики работали безвозмездно, а строительные материалы были предоставлены из казны.
Молебен по случаю начала строительства состоялся 27 июля 1903 года, после чего начались работы по возведению фундамента. Закладка часовни прошла 28 сентября 1903 года в присутствии главного командира Кронштадтского порта вице-адмирала Степана Осиповича Макарова. Чин освящения совершил настоятель Богоявленской церкви священник В.И. Погодин.
К середине октября 1904 года строительство было завершено: водружен крест и сняты леса с купола. Часовня выполнена в русском стиле и стоит на небольшом возвышении с выложенными булыжником откосами. Мозаики часовни («Неверие Петра», «Чудо о корабельщиках») были выполнены А. Быстровым в Мозаичной мастерской Российской Академии художеств.
В советское время часовня была закрыта и пришла в запустение. В 2003 году ГУП «Водоканал Санкт-Петербурга» начал работы по реставрации часовни, которые велись в соответствии с исторической справкой КГИОП. 17 мая 2004 года, в дни празднования 300-летия Кронштадта, часовня была освящена.