Приход храма Вознесения Господня за Серпуховскими воротами известен с 1696 года.
Современное каменное здание трехпрестольного храма строилось с 1709 года.
Верхний храм был закончен лишь 1762 году в связи с перерывом, вызванным запретом на каменное строительство в Москве. Архитектор — швейцарец итальянского происхождения Доминико Трезини.
Главный престол нижнего храма был освящён во имя Иерусалимской иконы Божией Матери, боковые приделы — в честь 9-ти Мучеников Кизических и Алексия Человека Божия.
Главный престол верхнего храма был освящен в честь праздника Вознесения Господня.
В 1845 году были пристроены два предела в честь святителя Николая Чудотворца и преподобного Сергия Радонежского.
В годы гонений приход был снят с юридической регистрации, а храм закрыт для богослужений и передан в народное хозяйство в 1929 году.
В 1990 году приход был возрожден, получил юридическую регистрацию, приходу было передано бывшее здание храма.
С 1990 года по настоящее время в здании храма ведутся ремонтно-восстановительные работы.
29 октября 1995 года Святейшим Патриархом Московским и всея Руси Алексием II было совершено освящение престола в честь Иерусалимской иконы Божией Матери в нижнем храме.