Joseph Heller er opvokset i bydelen Coney Island i Brooklyn og kommer fra en jødisk-russisk familie. Hjemmet var fyldt med bøger og magasiner, og siden sjette klasse vidste Heller, at han ville være forfatter. Moren var syerske, og faren, der kørte med brød, døde under en operation, da Heller var fem år gammel.
Da Heller var 15 år, opdagede han til sin brors bryllup, at han ikke havde samme mor som sine to søskende. En oplevelse, som Heller senere beskrev som et chok og følte som en hemmelighed, resten af familien bevidst havde prøvet at holde fra ham. Han satte senere ord på traumet i sin bog ”Min søns bror”. Gennem hele sin ungdom skrev Heller noveller. Den første, som var skrevet på en nabodrengs skrivemaskine, sendte han til The Daily News, men fik afslag. Først i sine senere tekster begyndte Heller at trække på egne erfaringer og følelser, som ”Punkt 22” blandt andet er et eksempel på.
Som 19-årig trådte han ind i hærens luftkorps under Anden Verdenskrig og blev sendt i krig i tre år, blandt andet på øen Korsika. Også i denne periode skrev han. Heller førte dagbog over, hvad der skete, og mange har påpeget, at der er visse ligheder mellem forfatteren og hovedpersonen Yossarian i debutromanen ”Punkt 22”, der bygger på Hellers egne oplevelser som bombeskytte.
Heller gjorde efterfølgende karriere inden for reklamebranchen. I sin fritid skrev han på sin debutroman, som han var otte år om at færdiggøre, mens hans anden bog, ”Der er sket noget” fra 1974 tog ham tretten år at skrive. Den langsommelige skriveproces var Heller da også selv bevidst om: ”Jeg er bemærkelsesværdigt lang tid om at skrive,” har han sagt (George Plimpton: The Art of Fiction. The Paris Review, 1970. Egen oversættelse). Selvom selve skriveprocessen var tidskrævende, kendte Heller altid den første og sidste sætning af en historie, før han begyndte at skrive den: ”Og når jeg nærmer mig afslutningen af en bog, er intet mere vigtig for mig. Jeg ville nok stoppe for at redde et liv, men intet mindre.” (Barbara Gelb: Catching Joseph Heller. 1979. Egen oversættelse).
Debutromanen var ikke en øjeblikkelig succes. Men som Vietnam-krigen skred frem i 1960’erne og 70’erne, ramte bogen en nerve i den amerikanske ungdom, der for alvor var begyndt at sætte spørgsmålstegn ved autoriteterne. Romanens skildring af krigens vanvid fik tilslutning af mange antikrigstilhængere, og den har solgt i mere end ti millioner eksemplarer. Bogen, der blev filmatiseret i 1970 af den amerikanske instruktør Mike Nichols, gjorde Heller til millionær. Men forfatteren, der selv kom fra fattige kår, havde det ambivalent med sin rigdom: ”Jeg synes ikke, jeg fortjener alle de penge. De sætter mig i en socialklasse, som jeg har meget lidt sympati for,” har han sagt (Barbara Gelb: Catching Joseph Heller. The New York Times, 1979-03-04. Egen oversættelse).