Pierwsze lata jego życia to przeprowadzki. Po śmierci ojca w czasie I wojny światowej jego matka wraz z dziećmi wyprowadziła się do Wiednia. Po kilku latach jednak wrócili do Buczacza. Wiesenthal ukończył tam polskie gimnazjum.
Architekturę zaczął studiować na Politechnice Lwowskiej, potem przeniósł się do Pragi, gdzie uzyskał dyplom. Po studiach wrócił do Lwowa. Założył firmę architektoniczną, którą prowadził do wybuchu II wojny.
We wrześniu 1939 roku, gdy Lwów został zajęty przez Armię Czerwoną, Sowieci zlikwidowali firmę Wiesenthala, zamordowali jego szwagra i uwięzili teścia. Jego samego zmusili do pracy w fabryce. Zagrożony deportacją na Syberię uratował się, dając łapówkę funkcjonariuszowi NKWD. W 1941 roku, po niemieckiej agresji na Związek Sowiecki, do Lwowa wkroczyli Niemcy. Rozpoczął się pogrom Żydów. Tym razem Wiesenthala uratowała pomoc byłego pracownika. Dzięki polskiemu podziemiu ocalała również jego żona. Reszta jego rodziny w czasie Holokaustu straciła życie.
Po wojnie celem jego życia stało się tropienie hitlerowskich zbrodniarzy. W roku 1947 w austriackim Linzu założył Jewish Historical Documentation Center (Żydowskie Centrum Dokumentacji Historycznej), instytucję zbierającą dowody niemieckich zbrodni wojennych. Odegrała ona ogromną rolę w schwytaniu i skazaniu architekta Holokaustu oficera SS Adolfa Eichmanna. Po tym sukcesie Wiesenthal otworzył w Wiedniu Żydowskie Centrum Dokumentacji, które pomogło postawić przed sądem ponad tysiąc nazistowskich zbrodniarzy. W 1977 roku utworzono międzynarodową agencję zajmującą się przechowywaniem pamięci o Holokauście i obroną praw człowieka, którą nazwano jego imieniem.
Wiesenthal był publicystą i pisarzem, autorem kilkunastu książek o wojnie i Holokauście. Pytany pod koniec życia, co chciałby przekazać potomnym, powiedział: "Że byłem strażnikiem pamięci i że trzeba szukać nowych, albowiem bez nich ludzkość jest skazana na popełnienie tych samych błędów i tych samych okrucieństw. Nienawiść może się pojawić wszędzie, nowi mordercy są wśród nas, pościg musi trwać. Zbrodniarze nie powinni spać spokojnie".
