Adiutant Mieczysław Lepecki wspominał: „Osoba Marszałka była tak ściśle związana z Belwederem, że nikomu na myśl nie przychodziło, aby mógł posiadać biuro w innym gmachu". Dziś również prawie nikt o tym nie wie, gdyż na budynku w Alejach Ujazdowskich 5, w którym znajdował się gabinet Piłsudskiego – generalnego inspektora Sił Zbrojnych, nie ma tablicy informującej o jego słynnym lokatorze.
Marszałek zajmował dwa obszerne pokoje na piętrze. W jednym z nich był gabinet, w drugim sypialnia. Na biurku w gabinecie panował bałagan, lecz Marszałek, nie znosząc „poznańskich porządków", nie pozwalał niczego ruszać. Przyciskiem do papierów był jego browning z czasów Organizacji Bojowej PPS. W gabinecie znajdowała się żelazna kasetka. Jak wspominał Lepecki, „jedyna rzecz, której Marszałek najwyraźniej strzegł przed wszystkimi". Klucz do niej zabierał, gdy opuszczał mieszkanie w inspektoracie.
Na ścianach wisiały obraz Matki Boskiej Ostrobramskiej, dla której Marszałek żywił szczególną cześć, wizerunki powstańców styczniowych, płótno Wojciecha Kossaka przedstawiające Piłsudskiego na Kasztance oraz obraz Ludomira Sleńdzińskiego „Marszałek pod Wilnem". Pod obrazem znajdowała się mapa plastyczna tego miasta, do którego miał ogromny sentyment.
W 1933 r. w mieszkaniu w inspektoracie przeprowadzono generalny remont. W dokumencie znajdującym się w archiwum Instytutu Józefa Piłsudskiego w Nowym Jorku, napisano, że meble – „więcej niż skromne" – wymienione zostały na inne, a „prymitywną" łazienkę przebudowano.
Obok pokojów Piłsudskiego znajdowało się mieszkanie adiutanta kpt. Mieczysława Lepeckiego, byłego legionisty i podróżnika. Lepecki zajmował się m.in. planowaniem urlopów Marszałka. Na parterze mieszkał wraz z żoną płk doktor Marcin Woyczyński, stary znajomy Piłsudskiego z czasów PPS. Był jedynym lekarzem, którego Marszałek tolerował, lecz nawet do jego rad się nie stosował. Lepecki i Woyczyński towarzyszyli Marszałkowi podczas jego wakacji.