Niewielu spośród starszych warszawiaków pamięta dom starców istniejący do Powstania Warszawskiego przy ulicy Przyrynek 4. Znają go przede wszystkim nieliczni już dziś byli mieszkańcy Starego i Nowego Miasta ale i oni nie orientują się, że jeden dom z całego zespołu zniszczonych budynków tego zakładu stoi do dziś. Łatwo się o tym przekonać, patrząc na zamieszczone tu przedwojenne zdjęcie tego schroniska, na którym z prawej strony widzimy ten właśnie stojący dotąd budyneczek
Budynek był spalony, tylko miał to szczęście, że nie został wraz z innymi rozebrany. Odbudowano go na samym początku lat pięćdziesiątych na tymczasową plebanię Kościoła Najświętszej Marii Panny, w obrębie którego się obecnie znajduje. Widocznego na zdjęciu okna, na ściętym narożniku budyneczku, dziś już nie ma, są natomiast drzwi i małe okienko w szczycie budynku, których przed jego zniszczeniem nie było. Na starych planach tej części Nowego Miasta można zobaczyć, że budyneczek połączony był dawniej z kościołem murowanym korytarzykiem. Dzięki niemu pensjonariusze zakładu, chcąc wziąć udział w nabożeństwie w kościele, wcale nie musieli wychodzić na dwór.

Jak wiadomo, tego korytarzyka już nie ma, ale zachowały się po nim drzwi w lewym boku kościoła. W podobny sposób, lecz nie korytarzykiem, połączona była z kościołem plebania, która przylegała częścią budynku do zakrystii. W czasie odbudowy plebanii z tego połączenia zrezygnowano.

Wróćmy jednak do starego zdjęcia. Pochodzi ono z dodatku tygodniowego do „Ilustrowanego Kuriera Codziennego" z 23 marca 1925 r.; wykonano je po ujawnieniu zamiaru magistratu m.st. Warszawy zburzenia tego zabytkowego obiektu. Mieszczący się tu dom starców, jako Szpital NMP, powstał z jałmużny uzbieranej w przysionkach Kościoła NMP około roku 1411, początkowo byty to zabudowania drewniane. W 1821 r. przeniesiono tu z Nowomiejskiej Szpital dla Starców Św. Ducha, ufundowany w 1388 r. przez księcia Janusza Mazowieckiego. Od tej pory zakład ten nosił miano Szpitala Św. Ducha i Najświętszej Marii Panny dla Starców. Mimo tej złudnej nazwy, był to zawsze tylko dom starców, a nie szpital. Po późniejszej rozbudowie zakład ten dawał schronienie około 90 osobom. W Polsce odrodzonej otrzymał on nazwę Dom Schronienia Starców Św. Ducha i Najświętszej Marii Panny. W przeszłości był to dom dla kobiet i mężczyzn, ostatnio tylko dla kobiet. Podstawowym warunkiem przyjęcia do niego było chrześcijańskie wyznanie i inteligenckie pochodzenie, a poza tym brak środków utrzymania, odpowiedni wiek (ponad 60 lat), przynajmniej dziesięcioletnie zamieszkanie w Warszawie i wniesienie jednorazowego wkładu pieniężnego w wysokości 1000 zł za klasę I i 600 zł za klasę II. Przy zakładzie istniał również przytułek dla starych sług i wyrobników. Do przytułku nie wnosiło się żadnego wkładu, wystarczyło jedynie zaświadczenie o dziesięcioletniej przynajmniej pracy.