Zaprawiony w walce w Korei i Wietnamie, był głównodowodzącym NATO w Europie pod koniec lat 70., gdy nad Starym Kontynentem wisiało widmo wojny nuklearnej. Sprawował funkcję szefa sztabu Białego Domu za Richarda Nixona, kiedy wybuchła afera Watergate, i to właśnie on miał przekonać Nixona do rezygnacji. Doradzał też jemu następcy Geraldowi Fordowi.
Gdy za prezydentury Ronalda Reagana w 1981 roku został szefem dyplomacji, wywołał wielkie kontrowersje, przekonując, że NATO może użyć broni atomowej w ramach sygnału ostrzegawczego dla „przekraczających granice tolerancji” Sowietów. W tym samym roku wypowiedział zdanie, które Amerykanie pamiętali do końca życia.
– Teraz ja kontroluję sytuację w Białym Domu – oznajmił reporterom po zamachu na Reagana, gdy w Waszyngtonie nie było akurat ówczesnego wiceprezydenta George’a Busha seniora. Zostało to odebrane jako uzurpacja władzy, bo konstytucja USA stwierdza, że w takiej sytuacji stery państwa przejmuje przewodniczący Izby Reprezentantów. W 1982 roku podał się do dymisji, protestując przeciw prezydenckiej wizji polityki zagranicznej.
Generał, który doradzał trzem amerykańskim prezydentom, marzył o najwyższym stanowisku w Białym Domu. W 1988 roku przegrał jednak bitwę o nominację Partii Republikańskiej z George’em Bushem seniorem. Ta klęska zakończyła jego karierę polityczną.