W kultowym serialu Kaye grał obrotnego właściciela kawiarni, ulubieńca pań i bohatera (mimo woli) francuskiego ruchu oporu podczas II Wojny Światowej. Wystąpił także w zagranej ponad 1200 razy teatralnej wersji "Allo Allo".
Urodzony w niedużej miejscowości Huddersfield edukację zakończył na szkole średniej. Imał się różnych zajęć, zanim odkrył aktorstwo. Po kilku rolach teatralnych i radiowych, swoją pierwszą dużą rolę zagrał w operze mydlanej "Coronation Street". Zagrał wiele epizodów i ról drugoplanowych w sitcomach zanim zdobył sławę w 1982 roku jako Rene Artois. Za tę rolę był nominowany do nagrody BAFTA.
Grywał także w rolach szekspirowskich, w BBC i Królewskim Teatrze Narodowym.
W 1990 Kaye uległ poważnemu wypadkowi, który niemal zakończył jego karierę. Podczas huraganu złamany słup tablicy reklamowej spadł na przednią szybę jego samochodu i poważnie zranił aktora w głowę. Jego stan był określany jako krytyczny. Uratowała go wielogodzinna operacja i żmudna rehabilitacja, po której powrócił do zawodu.
Ostatnią rolą Gordena Kaye był... Rene Artois w 2007 roku, w odcinku specjalnym "Allo Allo".