Первое упоминание о деревянной церкви Святителя Николая в Толмачах относится к 1625 году. В Приходской книге Патриаршего приказа она называется «церковью Великого Чудотворца Николы, да в пределе Иван Предтечь, что за Москвою-рекою в Толмачах». Название «в Толмачах» связано с расположением храма в Толмацкой слободе, где проживали переводчики («толмачи»), обслуживавшие великокняжеский двор.
В 1697 году на месте деревянной церкви был возведён каменный храм. Строительство осуществлялось на средства прихожан, в частности, «гостя» Лонгина Добрынина, прихожанина и ктитора церкви Воскресения в Кадашах. Главный престол нового храма был освящён в честь Сошествия Святого Духа, а Никольский перенесён в трапезную.
В 1770 году в трапезной был сооружён Покровский придел на средства вдовы купца первой гильдии И. М. Демидова. Это свидетельствует о продолжении традиции благотворительности и участия состоятельных горожан в развитии храмовой инфраструктуры Москвы.
В 1833–1834 годах по проекту архитектора Фёдора Шестакова была перестроена трапезная и возведена новая колокольня. Эти изменения придали храму черты классицизма, характерные для московской архитектуры того времени. В 1856–1858 годах были проведены работы по обновлению четверика и перестройке главного алтаря. Средства на эти работы были пожертвованы, в том числе, Александрой Третьяковой с сыновьями, что подчёркивает связь храма с семьёй основателя Третьяковской галереи.
После революции 1917 года храм, как и многие другие религиозные учреждения, столкнулся с трудностями. В 1929 году он был закрыт, главы сняты, колокольня разобрана до первого яруса. В помещениях храма располагались запасники Государственной Третьяковской галереи, что, с одной стороны, способствовало сохранению здания, но, с другой, привело к утрате многих элементов его внутреннего убранства.
В 1993 году храм был передан Русской Православной Церкви. Начались реставрационные работы, направленные на восстановление его исторического облика. 8 сентября 1996 года главный престол храма был освящён патриархом Московским и всея Руси Алексием II. В 1997 году завершена реконструкция: заново возведена колокольня и восстановлено пятиглавие четверика, воссозданы три иконостаса, пристенные киоты, полностью восстановлена настенная живопись.
Архитектурно храм представляет собой бесстолпное сооружение, перекрытое высоким четырёхлотковым сомкнутым сводом. Снаружи он покрыт четырёхскатной кровлей с пятью декоративными барабанами без окон под луковичными главами. На уровне подъёма сводов фасады украшены карнизом с декоративными раковинами над осями окон, что подражает раковинам на фасадах Архангельского собора Московского Кремля.
В настоящее время храм обладает статусом домовой церкви при Государственной Третьяковской галерее. Здесь созданы все необходимые условия для хранения уникальных святынь, являющихся духовным и культурным достоянием нашего народа. В храме хранятся такие святыни, как Владимирская икона Божией Матери и икона «Троица» Андрея Рублёва. Эти иконы являются не только объектами религиозного поклонения, но и важными произведениями русского иконописного искусства.
