Urodził się w 1940 r. w Dublinie, ale pięć lat później jego ojciec zabrał rodzinę do Londynu, by pomóc przy odbudowie miasta po wojennych zniszczeniach. Przy okazji zmienił synowi obywatelstwo na brytyjskie (co pozwoliło Gambonowi odebrać z rąk królowej w 1998 r. tytuł szlachecki). Wychowywał się w konserwatywnej irlandzkiej społeczności, chodził do surowej katolickiej szkoły i był ministrantem w kościele. Dni szkolnych nie wspomina zbyt dobrze: "Pamiętam jedynie, jak byłem bity na placu zabaw i poszturchiwany przez nauczycieli". Nic dziwnego, że rzucił naukę, gdy miał 15 lat. O wiele lepsze wspomnienia zachował ze służenia do mszy. W rozmowach z dziennikarzami podkreśla, że wtedy po raz pierwszy w życiu zetknął się z graniem.

Mimo to nic nie zapowiadało, że zostanie aktorem. Uwielbiał kino, ale bez odpowiedniego wykształcenia mógł jedynie pracować przy wyrobie narzędzi. I pewnie zostałby rzemieślnikiem, gdyby w wieku 19 lat po raz pierwszy nie odwiedził teatru. Świat sceny go zafascynował. Wysłał więc list z prośbą o angaż w teatrze Dublin's Gate. Zmyślił przy tym swój aktorski życiorys. Nikt nie odkrył kłamstwa i został przyjęty. Zadebiutował w 1962 r. niewielką rólką w "Otellu". Nikt wtedy nie przypuszczał, że mocno zbudowany, łysiejący mężczyzna o lekko nalanej twarzy będzie później grał największe szekspirowskie role. Gambonowi przepowiadano najwyżej karierę specjalisty od epizodów. A jednak ktoś dostrzegł jego ukryty talent -w 1963 r. sam Laurence Olivier wybrał go do zespołu Królewskiego Teatru Narodowego. Cztery lata spędzone u boku mistrza okazały się dla aktora bezcenne. Chociaż odszedł z narodowej sceny już w 1967 r., pracował tam z takimi gwiazdami, jak Maggie Smith, Ian Richardson i Tom Courtenay. Pracował także z wybitnymi reżyserami, m.in. Lindsayem Andersonem i Franco Zeffirellim. Te doświadczenia zaowocowały, gdy - po przeprowadzce do Birmingham Repertory Company - jeszcze raz zagrał w "Otellu", tym razem głównego bohatera. Potem kolekcjonował wielkie role. Był królem Learem, Ryszardem III i Makbetem w dramatach Szekspira. Wystąpił w "Zdradzie" Harolda Pintera. Był wielokrotnie nominowany do Nagrody Teatralnej im. Laurence'a Oliviera.

W telewizji i kinie pozycję zdobywał znacznie dłużej. Pojawiał się w serialach już od lat 60., ale dopiero gdy wcielił się w Philipa E. Marlowe'a w miniserii "Śpiewający detektyw" (1986), mógł pokazać pełnię możliwości na małym ekranie - zdobył wtedy nagrodę BAFTA. W filmach kinowych najczęściej można go było oglądać na dalszym planie. Wyjątkiem był "Kucharz, złodziej, jego żona i jej kochanek" Petera Greenawaya (1989), gdzie grał tytułową postać złodzieja. Dwa lata później dostrzegło go Hollywood. Zagrał m.in. w "Miłości i śmierci w Wenecji", "Jeźdźcu bez głowy", "Dobrym agencie", ale wciąż był w cieniu gwiazd. Wyszedł z niego dzięki smutnemu zbiegowi okoliczności. Śmierć Richarda Harrisa, który grał profesora Dumbledore'a w pierwszych dwóch częściach sagi o Harrym Potterze, spowodowała, że producenci musieli szybko poszukać następcy. Potrzebny był uznany aktor z bogatym dorobkiem i padło na Michaela Gambona. "Trzeba być gwiazdą kina, żeby zostać sławnym" - powtarzał w wywiadach. Mylił się. Czasami wystarczy przypadek podparty latami ciężkiej pracy.