Haden urodził się w 1937 roku w stanie Iowa w rodzinie muzyków, z którą śpiewał w programach jednej z lokalnych rozgłośni radiowej gdy był jeszcze dzieckiem.W wieku 14 lat zachorował na polio. Choroba uszkodziła mu mięśnie gardła i struny głosowe, co sprawiło, że musiał zrezygnować ze śpiewania. Wówczas skoncentrował się na jazzie i grze na kontrabasie. W latach 50-tych sławę przyniosły mu występy w grupie Free Jazz Quartett saksofonisty Ornette'a Colemana. Później był członkiem zespołu pianisty Keitha Jarretta. Wśród słynnych muzyków jazzowych, z którymi także grał Charlie Haden, byli John Coltrane, Dizzy Gillespie i Pat Metheny. Trzykrotnie uhonorowany został prestiżową nagrodą muzyczną Grammy.