Bukowski nacque ad Andernach, dove sua madre, tedesca, incontrò suo padre, un soldato polacco-americano, durante l'occupazione tedesca alla fine della prima guerra mondiale. All'età di due anni la sua famiglia si trasferì a Los Angeles, in California. Durante la grande depressione, il padre di Bukowski fu spesso disoccupato, e a detta del figlio, manesco e ingiurioso. Dopo essersi diplomato alla Los Angeles High School, Bukowski frequentò il Los Angeles City College per un anno seguendo corsi di arte, giornalismo e letteratura.

All'età di 24 anni, Bukowski riuscì a far pubblicare un suo breve racconto, "Aftermath of a Lenghty Rejection Slip". Due anni dopo pubblicò un altro breve racconto "20 Tanks From Kasseldown", ma la sua disillusione verso il settore editoriale crebbe a tal punto che smise di scrivere per quasi un decennio. Passò questo periodo in parte a Los Angeles, e in parte vagabondando per gli Stati Uniti, vivendo di lavori saltuari e in economiche stanze in affitto.

Nei primi anni cinquanta Bukowski ottenne lavoro come postino a Los Angeles, ma si licenziò dopo neppure due anni. Nel 1955 fu ricoverato per un'ulcera perforante che gli fu quasi fatale. Lasciato l'ospedale iniziò a scrivere poesie. Sposò Barbara Frye nel 1957 ma divorziò nel 1959. La Frye, scrittrice e poetessa (dirigeva la rivista Harlequin, sulla quale erano state pubblicate delle poesie di Bukowski), insisteva nel dire che le loro differenze erano personali, non letterarie, anche se era risaputo che fosse molto critica verso l'opera poetica del marito. Bukowski continuò a scrivere poesie e riprese a bere. Ritornò agli uffici postali di Los Angeles, dove lavorò come impiegato per più di dieci anni.

Nel 1965 da Bukowski e Frances Smith nacque una bambina, Marina Louise Bukowski. Smith e Bukowski vissero insieme per un periodo, ma non si sposarono mai. Nel 1969 Bukowski si licenziò nuovamente per fare della scrittura la sua principale carriera, dopo aver ottenuto uno stipendio di 100$ al mese "a vita" da John Martin, editore del Black Sparrow Press. Aveva 49 anni. Come spiega in una lettera dell'epoca, "Dovevo fare una scelta: rimanere all'ufficio postale ed impazzire, oppure andarmene da lì, giocare allo scrittore e morire di fame. Decisi di morire di fame". Meno di un mese dopo aver lasciato le poste, terminò il suo primo romanzo, Post Office, che lo rese celebre.

Nel 1976 Bukowski incontrò Linda Lee Beighle, la proprietaria di un alimentari. Due anni dopo la coppia si trasferì nell'East Hollywood, dove Bukowski aveva vissuto la maggior parte della sua vita, nella punta più sud di Los Angeles. La coppia si sposò nel 1985.

Bukowski morì di leucemia fulminante il 9 marzo 1994 nell'ospedale di San Pedro in California all'età di 73 anni, poco dopo aver completato il suo ultimo romanzo, Pulp. Il rito funebre fu celebrato da un monaco buddista.