Był laureatem dwunastu nagród Grammy, prestiżowej Polar Music Prize i Guggenheim Fellowship. Najbardziej znany był z kwintetu Milesa Davisa, grupy Weather Report, którą prowadził z Joe Zawinulem, a w ostatnich latach z własnego kwartetu uważanego za najlepszy akustyczny zespół jazzowy ostatnich lat. Kilkakrotnie występował w Polsce, m.in. z okazji swoich 80. urodzin na Warsaw Summer Jazz Days.
Na początku kariery w latach 50. XX wieku pozostawał pod wpływem wielkich saksofonistów: Johna Coltrane’a, Sonny’ego Rollinsa i Colemana Hawkinsa. Po krótkiej współpracy z pianistą Horace’em Silverem i trębaczem Maynardem Fergusonem trafił do popularnej grupy Jazz Messengers Arta Blakeya. W latach 1959 - 64 był jej dyrektorem artystycznym.