Sztuka, którą odkrywał podczas wędrówek, była dla niego źródłem poetyckich inspiracji. W „Modlitwie Pana Cogito – podróżnika” pisał: „dziękuję Ci Panie że stworzyłeś świat piękny i różny/ a jeśli jest to Twoje uwodzenie jestem uwiedziony na zawsze i bez wybaczenia“.
Autora „Barbarzyńcy w ogrodzie“ najczęściej kojarzymy jako miłośnika antyku, zafascynowanego zabytkami starożytnej Grecji i Italii. I estetyki wyrażającej się w harmonii i proporcji. A przecież nie mniej fascynowały go gotyckie katedry. Sam mówił o sobie, że jest „amatorem gotyku”.
W szkicu „Kamień z katedry” pisał, że ta pasja zrodziła się w nim, kiedy zwiedzał jedną z najpiękniejszych średniowiecznych świątyń w Francji – w Chartres. Wtedy powziął szalony pomysł obejrzenia wszystkich francuskich katedr, przeniknięcia metafizyki, symboliki i tajemnic ich architektury. Pomysłu do końca nie zrealizował, ale widział m.in. Notre-Dame w Paryżu, katedrę w Reims, Beauvais, Valois. Podziwiał pełne wyrazu gotyckie rzeźby – twarze aniołów i świętych. A także grę świateł i kolorów w witrażach. Jednak największe wrażenie robił na nim kunszt anonimowych budowniczych. I opowiadając o oglądanych katedrach, próbował oddać trud architektów i kamieniarzy, którzy je wznosili.
Dyrektor Festiwalu i autor wystawy „Twoja i moja katedra” na zamkowym dziedzińcu – Józef Maria Ruszar konfrontuje opisy poety z barwnymi fotografiami miejsc, które Herbert odwiedził we Francji i we Włoszech. Te porównania przekonują, że Herbert był wnikliwym obserwatorem. Nie tylko zapamiętywał detale świątyń, ale także potrafił celnie uchwycić różnicę między gotykiem francuskim a włoskim. W pierwszym widział próbę naśladowania natury i porównywał do górskiego łańcucha ukształtowanego przez człowieka. „Wołanie gotyku jest równie nieodparte jak wołanie gór i nie można długo pozostać biernym obserwatorem.
To nie katedry romańskie, gdzie z beczkowych sklepień spływają krople konsolacji. Katedra gotycka odwołuje się nie tylko do oczu, ale także do mięśni”.