Крупнейший католический храм России – собор Непорочного Зачатия Пресвятой Девы Марии – изначально задумывался как филиал храма во имя святых Петра и Павла (его прихожанами были поляки, немцы, литовцы и выходцы из других европейских стран). Городские власти, разрешив строительство нового собора, поставили перед католической общиной несколько условий. Во-первых, святыня не должна располагаться в центре Москвы; во-вторых, находиться на значительном расстоянии от православных церквей; в-третьих, сооружение должно быть без башен и прочих изваяний.
Местом для строительства нового собора стал свободный участок на Малой Грузинской улице. Строительство продолжалось с 1901 по 1911 годы. Условие обойтись без башен и изваяний было выдержано лишь частично. Проект польского архитектора Ф. Богдановича-Дворжецкого, выполненный в стиле неоготики, предусматривал несколько небольших башенок-шпилей и световой фонарь в средокрестии под шпилем с крестом. Вытянутые стрельчатые окна дополняла обширная роза над главным входом. Внутри собора, отделка которого продолжалась вплоть до 1917 года, могло поместиться до пяти тысяч прихожан.
В первые годы советской власти собор Непорочного Зачатия Пресвятой Девы Марии утратил статус филиала, став полноценным приходским храмом. Но в 1938 году богослужения в нем запретили, а здание перепрофилировали под общежитие для рабочих. В начале Великой Отечественной войны на святыню упало несколько бомб, нанеся зданию серьезные разрушения.
После окончания войны в ходе реконструкции из собора убрали все башенки и декор, а внутреннее пространство разбили на четыре этажа. С 50-х годов прошлого века в сооружении располагался НИИ «Мосспецпромпроект».
Католический приход вокруг собора сформировался в начале 1990-х. Долгое время мессу разрешали служить только на ступеньках возле главного входа. Собор верующим вернули лишь в 1996 году. До начала нового тысячелетия были проведены ремонтно-восстановительные работы, вернувшие храму тот облик, который задумывал архитектор в начале ХХ столетия.