Urodzony w 1932 roku Jean-Jacques Sempé był samoukiem. Nie skończył żadnej szkoły, wydalony za brak postępów w nauce z liceum w Bordeaux, gdzie się urodził.
Swój pierwszy rysunek sprzedał dziennikarzowi jednego z regionalnych dzienników.
W 1956 roku zadebiutował w "Paris Match", gdzie jego całostronicowe karykatury pojawiały się przez wiele lat.
Również magazyn "The New Yorker" wiele lat publikował jego prace na swoich okładkach.
W latach 50. został poproszony przez René Goscinnego do zilustrowania komiksu o przygodach małego chłopca - tak powstał Mikołajek.