– Jego anegdoty powstawały ad hoc – wspomina Janina Borowiczowa, redaktorka w Czytelniku książek Tadeusza Konwickiego i stały gość jego kawiarnianego stolika. – Gustaw, który zasiadał przy nim codziennie, wtrącał zabawne historie, czasem prawdziwe, czasem zmyślone. Bywał złośliwy, ale i niezmiernie taktowny. Nie zdarzyło się, by kogokolwiek swoją opowieścią zranił czy ośmieszył.
Na próbie Kalina Jędrusik zapaliła na scenie papierosa. Zbliżył się strażak i powiedział: „Proszę zgasić papierosa, bo tu nie wolno palić”. A Kalina, jak Kalina, z wdziękiem odparła: „Odp… się, strażaku”. On strasznie się zamyślił, poszedł za kulisy i tam trwał jakiś czas. Potem nabrał powietrza, wrócił na scenę, ale tam już nie było Kaliny, tylko Basia Rylska. On jednak tego nie zauważył, bo oczy zaszły mu bielmem z wściekłości i krzyknął do Rylskiej: „Ja też potrafię przeklinać, ty k… stara!”. Zdumiona Basia pobiegła do Edwarda Dziewońskiego, który był reżyserem spektaklu, i powiedziała mu, że strażak zwariował, bo ją zwyzywał bez żadnego powodu. Dziewoński strasznie się zezłościł, poszedł do strażaka i powiedział: „A pan jest ch…!”. Przy czym strażak był inny. Więc tak wygląda życie polityczne w naszym kraju.
To, czego się wymaga w tej chwili od młodych ludzi, zwłaszcza przed kamerami, nie ma nic wspólnego z mową. To jęki, pomruki, skróty, szyfry. Zaczynają dominować do tego stopnia, że taksówkarz potrafi mi powiedzieć: „Od razu poznałem pana po głosie, bo pan tak dziwnie mówi”.
W Teatrze Słowackiego w Krakowie przed laty na przedstawienie „Wesela” w reżyserii dyrektora Bronisława Dąbrowskiego aktor grający Czepca pojawił się w nie najlepszym stanie fizycznym. Pojony czarną kawą doszedł wreszcie do takiej równowagi, by wyjść na scenę. Nie wiedział, że tego dnia zachorował aktor grający Dziennikarza i że zastępuje go sam Dąbrowski. Kiedy więc zobaczył go na scenie, zapomniał, że kurtyna jest już w górze, i zamiast: „Cóż tam panie w polityce? Chińczyki trzymają się mocno?”, powiedział: „Dyrektorku, pan się nie martwi. Wszystko pod kontrolą”.
Sam też był bohaterem wielu anegdot. Najsłynniejsza związana jest z legendarnym warszawskim lokalem SPATiF, gdzie w latach 60. koncentrowało się elitarne życie stolicy. Pewnego wieczoru wtoczył się tam Jan Himilsbach w stanie wskazującym na spożycie i krzyknął: „Inteligencja – wyp…dalać!”. Holoubek, który siedział przy stoliku, rozejrzał się po sali, wstał i ogłosił: „Nie wiem jak panowie, ale ja wyp…dalam”.