Gutendorf był aktywnym trenerem przez pół wieku - pięciokrotnie prowadził drużyny z najwyższej klasy rozgrywkowej w Niemczech, był też trenerem 18 reprezentacji narodowych w tym Australii, Chin i Fidżi.
"Niezmordowany Rudi" karierę trenerską rozpoczął w szwajcarskim klubie Blue Stars Zurich w latach 50-tych - zakończył ją jako trener reprezentacji Samoa w 2003 roku.
Przed zostaniem trenerem Gutendorf był czynnym piłkarzem - w latach 1944–1953 grał jako napastnik w TuS Koblenz.
Gutendorf w czasie swojej kariery był m.in. trenerem aż siedmiu reprezentacji z Afryki - Botswany, Tanzanii, Wysp Św. Tomasza i Książęcej, Ghany, Mauritusu, Zimbabwe i Rwandy.
Wiceprzewodniczący niemieckiej federacji piłkarskiej, dr Rainer Koch, nazwał Gutendorfa "znakomitym ambasadorem niemieckiej piłki nożnej".