W 1878 jego rodzina wyemigrowała do USA. Teraz wiadomo, że Wielki Houdini był Żydem. Jego ojcem to rabin Rabbi Mayer Samuel Weisz, a matka Cecilia Steiner. Mały Harry dostał imię Erik. Zmienił nazwisko na Harry Houdini w roku 1913.
Dorosły Houdini nie przyznawał się do węgierskich korzeni. Od 1900 r., jako miejsce urodzenia podawał Appleton w stanie Wisconsin.Nie był też przywiązany do daty swoich urodzin - podawał datę 6 kwietnia 1874. Dopiero po śmierci 31 października 1926 w Detroit, badacze odnaleźli węgierski akt urodzenia iluzjonisty.
Świat poznał Houdiniego jako iluzjonistę, specjalistę od ucieczek i wielkich pokazów. Na wielkiej scenie zadebiutował w 1891 r. Początkowo, nie odnosił wielkich sukcesów. Początki kariery to pokazy karciane. Dopiero poznanie Wilhelminy Beatrice (Bess) Rahner i poślubienie jej w 1893 r. wypchnęło Houdiniego na szerokie wody. Przez resztę kariery Bess pracowała jako jego sceniczna asystentka.
Harry Houdini porzucił sztuczki z kartami na rzecz uwalniania się z kajdan. Jedna z jego najsłynniejszych sztuczek spowodowała zniknięcie słonia i tresera ze sceny, pod którą znajdował się basen. Scena była nie byle jaka, bo występ miał miejsce londyńskim hipodromie.
W 1899 r. Houdini poznał showmana Martina Becka. Dzięki niemu ruszył w trasę z pokazem wodewilu Orpheum. Wodewil stał się jednym z najbardziej znanych w kraju. Po powrocie z Europie w 1904, jego występy zostały okrzyknięte sensacją.