Saxon urodził się na Brooklynie w Nowym Jorku w 1935 r. jako Carmine Orrico. Po ukończeniu szkoły średniej szkolił swój talent u słynnej Stelli Adler. W wieku 16 lat przybył do Hollywood i wtedy zmienił nazwisko na John Saxon. Jego debiut to młodzieżowy film "Na swobodzie" (1955) - wcześniej epizodycznie pojawił się m.in. w "Narodzinach gwiazdy" (1954). W 1956 r. zagrał gracza baseballowego w "Momencie nieuwagi". Ta rola przyniosła mu sławę i uznanie. Zdobył Złoty Glob w 1958 r. w nieistniejącej już kategorii najlepsza wschodząca gwiazda – aktor.
Przez kolejne kilka lat występował głównie w filmach przeznaczonych dla młodego widza, jak np. "Mr. Hobbs na urlopie" z 1962 r. W tym też roku zagrał swoją pierwszą rolę dramatyczną w "Wojennym polowaniu" u boku Roberta Redforda.
W 1960 r. współpracował z reżyserem Johnem Hustonem przy realizacji filmu "Nie do przebaczenia". Był nominowany do Złotego Globu dla najlepszego aktora drugoplanowego w 1966 r. za rolę w filmie "Appaloosa" u boku Marlona Brando. Wśród jego największych ról można wspomnieć te w "Wejściu smoka" i "Koszmarze z ulicy Wiązów". Grał zabójców, nastoletnich łobuzów, łamaczy serc i gliniarzy. Pod koniec lat 60., zaczął grywać w filmach klasy B - horrorach i spaghetti westernach. Pojawiał się także w serialach, m.in. w "Kung-fu", "Dynastia", "Doktor Kildare" i "CSI: Kryminalne zagadki Las Vegas" - przypomina Onet.