Oz werd in 1939 geboren als zoon van rechtse ouders, Yehudah Arieh en Fania Klausner, in Jeruzalem. Zowel de revisionistische omgeving, die leiders als Jabotinksy en Menachem Begin vereerde, als de roerige Jeruzalems achtergrond speelt in veel van zijn boeken een rol. Vaak indirect, soms uitgesproken als in zijn roman ''Een verhaal van Liefde en Duisternis'' uit 2002. Zijn moeder, die vaak depressief was, pleegde in 1951 zelfmoord. Oz was toen 12. Drie jaar later koos hij voor het kibutzleven in de kibbutz Hulda. Ook bekeerde hij zich toen tot Israelisch links (Arbeiderspartij) en nog weer later was hij één van de voorstanders van het oplossing van het Israelisch-Palestijnse probleem door de creatie van een Palestijnse staat naast Israel.
Oz studeerde filosofie en Hebreeuwse literatuur aan de Hebreeuwse Universiteit in Jeruzalem en publiceerde zijn eerste boek in 1965, een selectie korte verhalen onder de naam ''Waar de Jakhalzen huilen''.
