(…) Na tym miejscu, na wyniosłem wzgórzu, nad głębokim wąwozem, którego oczywiście dziś śladu nie ma, a którym w zeszłym jeszcze wieku płynął strumień, poczynający się na Żabiej i dążący do Wisły Warecką, Ordynacką i dzisiejszą Tamką, począł w roku 1597 stawiać zamek obronny książę ordynat Janusz Ostrogski, kasztelan krakowski. Zamek ten nieskończony przeszedł do Cywińskich, od nich do Zamoyskich, którzy zmienili go na pałac, nie mogąc jednak zatrzeć pierwotnych warownych śladów, zwłaszcza widocznych od ulicy Tamki. Z tej strony bowiem gmach wznosi się na ogromnym podmurowaniu z cegieł, wśród których widać strzelnice, ciosowym obłożone kamieniem. W podmurowaniu tym znajdują się obszerne piwnice, dziś po większej części zasklepione. Autorzy niektórzy z XVII w. zapewniają, że w piwnicach tych mógł się ukrywać cały pułk żołnierzy.
Według legendy, do dziś dnia obiegającej wśród ludu warszawskiego, na dnie tych murów, gdzieś w ich głębi, leżeć ma piękne jezioro a po nim pływa złota kaczka, która jest zaklętą księżniczką. Od Zamoyskich pałac przeszedł do Czapskich, Chodkiewiczów, aż w r. 1836 nabyty przez rząd, obrócony został na zakład leczniczy, „Domem Zdrowia* zwany. Od r. 1859 mieści się tu Konserwatorium muzyczne, założone staraniem Apolinarego Kątskiego ze składek i ofiar publicznych całego kraju. Konserwatorium otwarte zostało w r. 1861. Po kilku pierwszych latach egzystencji, gdy pierwotne fundusze się wyczerpały, rząd wyznaczył dla konserwatorium odpowiednie stałe subsydium, które przy opłacie od uczniów, daje możność trwania tej instytucji, z wielu względów bardzo pożytecznej.
Za gmachem tym znajduje się niewielki ogród, w części rosnący na owym olbrzymim podmurowaniu, w części na prześlicznym wzgórzu, stromo spadającym ku zabudowaniom św. Kazimierza, Widok z tego ogrodu, bardzo starannie utrzymanego, jest przepyszny na Wisłę, Pragę i lasy siniejące w dali. (…)
Powyższy tekst i ilustracje stanowią fragment przewodnika po Warszawie: Ilustrowany przewodnik po Warszawie : wraz z treściwym opisem okolic miasta; Andriolli, Michał Elwiro (1836-1893) Ilustracje, Illinicz-Zajdel, Ludomir (około 1858-1904) Ilustracje; Warszawa : Redakcja “Wędrowca”, 1893 (Warszawa : S. Sikorski)