Предположительно, каменный храм был возведен в первой трети XVI века и, возможно, первоначально являлся монастырским.
Первые документальные упоминания о церкви «Царя Константина изо Пскова с Песку» обнаружены в Писцовых книгах конца XVI века, однако точная дата строительства и информация о перестройках в псковских летописях не зафиксированы.
В начале XVII века храм и прилегающий монастырь значительно пострадали в результате военных действий, включая Ливонскую войну и Смутное время. Монастырь был сожжен и прекратил свое существование, что отразилось на состоянии церкви. Предполагается, что четырехскатное покрытие храма появилось в XVII веке после восстановительных работ.
В XVIII веке к храму был пристроен южный теплый придел во имя святого Власия, заменивший ранее существовавший малый придел в диаконнике. Кроме того, в этот период была возведена надвратная колокольня и каменная ограда погоста. На колокольне размещались шесть колоколов, два из которых датировались временами царя Ивана Грозного.
В 1808 году церковь была признана ветхой и предназначалась к сносу, однако Святейший Синод не дал разрешения на демонтаж. В 1814 году, в связи с бедственным состоянием, храм был приписан к Димитриевской кладбищенской церкви, а в апреле 1836 года — к церкви святого апостола и евангелиста Иоанна Богослова на Мишариной горке.
В XIX веке, в день престольного праздника, около храма устраивалась ярмарка. 5 мая 1936 года Псковский окрисполком принял решение о закрытии церкви. В последующие годы здание использовалось в различных целях: архивный склад, зернохранилище, склад музея, мастерские для художников, клуб спелеологов.
Во время Великой Отечественной войны церковь получила частичные повреждения кровли, стен, наружной и внутренней отделки. Решением Псковского горисполкома от 8 июня 1948 года кладбище вокруг церкви было закрыто для захоронений. В 1970-х годах пожар уничтожил крышу колокольни; реставрационные мастерские воздвигли временную крышу.
В 1988 году была организована община верующих, которая обратилась к властям с просьбой о возвращении храма Русской Православной Церкви. 4 января 1989 года состоялось первое богослужение. Решением Псковского горисполкома от 14 марта 1990 года церковь официально передана верующим, после чего началось ее восстановление.
В последующие годы были проведены значительные работы по реставрации и благоустройству храма: восстановлены церковь и колокольня, возведена каменная ограда с угловыми башнями, в 1997 году построена часовня в честь блаженной Ксении Петербургской. На колокольне установлено восемь колоколов, отлитых в Воронеже мастерами фирмы «Вера» и пожертвованных прихожанами. На территории храма также возведены трапезная и сторожка.
В 1999 году началась роспись храма фресками, завершенная осенью 2010 года. Работы выполнял художник-реставратор Александр Милованов, являющийся прихожанином храма. В 2006 году иконостас и иконы были украшены басмой трудами Анатолия Николаевича Елизарова. В 2016 году завершен полный ремонт храма и устроена изразцовая печь в приделе священномученика Власия.
