Впервые церковь на этом месте упоминается в 1625 году как деревянный храм, посвящённый преподобному Варлааму Хутынскому. В 1683–1685 годах на его месте был возведён каменный храм с тем же посвящением. В 1688 году в этой церкви прославилась икона Божией Матери «Всех скорбящих Радость», что привело к переименованию храма и увеличению его значимости среди москвичей.
В 1783–1791 годах, по проекту архитектора Василия Ивановича Баженова, к существующему зданию были пристроены трапезная с двумя приделами — во имя преподобного Варлаама Хутынского и иконы Божией Матери «Всех скорбящих Радость», а также трёхъярусная колокольня. Строительство велось на средства купца Афанасия Долгова.
После пожара 1812 года храм был значительно повреждён. В 1823–1836 годах, по проекту архитектора Осипа Ивановича Бове, здание было перестроено в стиле ампир. Новая конструкция включала ротонду с высоким куполом, окружённую колоннадой. Внутреннее убранство было украшено лепниной и живописью, а иконостас выполнен в ампирном стиле.
В советский период храм был закрыт в 1933 году, а его помещения использовались под различные нужды, включая хранение фондов Третьяковской галереи во время Великой Отечественной войны. В 1948 году церковь была вновь открыта для богослужений и стала одним из первых московских храмов, возобновивших работу после восстановления Патриаршества.
В настоящее время храм действует и является центром духовной жизни района. При нём функционирует духовно-просветительский центр «Восхождение», включающий воскресную школу, молодёжный клуб и различные социальные службы.
Архитектурно здание представляет собой ротонду с полусферическим куполом, окружённую колоннадой ионического ордера. Колокольня состоит из трёх цилиндрических ярусов, уменьшающихся по диаметру кверху, и увенчана куполом с крестом. Фасады украшены лепным декором и медальонами, а внутреннее пространство поддерживается 12 ионическими колоннами. Пол выложен чугунными плитами по эскизам Бове.
Главной святыней храма является чудотворная икона Божией Матери «Всех скорбящих Радость», прославившаяся в 1688 году. Кроме неё, в церкви находятся особо чтимые иконы мученика Лонгина-сотника, преподобного Алексия, человека Божия, и апостола Андрея Первозванного.
