Oz urodził się w Jerozolimie, w 1939 roku. Wychowywał się w kibucu. Studiował filozofię i literaturę na Uniwersytecie Hebrajskim w Jerozolimie.

Swoją działalność literacką rozpoczął w 1961 roku, w wieku 22 lat. Od tego czasu wydał ok. 20 książek w języku hebrajskim, w tym powieści, opowiadania i eseje oraz ok. 500 artykułów i esejów w izraelskich i zagranicznych czasopismach. Jego najsłynniejsze powieści to "Czarna skrzynka", "Opowieść o miłości i mroku" oraz "Na ziemi Izraela".

Oz pełnił służbę w szeregach izraelskiej armii w czasie wojny sześciodniowej (1967) oraz wojny Jom Kippur (1973). W związku ze swoimi doświadczeniami z tej służby stał się zwolennikiem dialogu pokojowego między Izraelem a Palestyńczykami. Oz wiele też pisał o konflikcie Izraela z Arabami.

W swojej twórczości Oz często poruszał też tematykę kibucową.

Oz był wielokrotnie wymieniany na liście faworytów do otrzymania literackiej Nagrody Nobla. Nigdy jej jednak nie otrzymał.