V letech 1960 až 1964 byla Zappovou manželkou Kay Sherman. Se svou druhou ženou Gail Sloatman pak měl Frank Zappa čtyři děti, kterým dal velmi neobvyklá jména. Synové dostali jména Dweezil a Ahmet Emuukha Rodan, dcery byly pojmenovány jako Moon Unit a Diva Thin Muffin Pigeen.
Svou první kapelu nazvanou Blackouts založil Frank Zappa už na střední škole v kalifornském Lancasteru, v té době ještě hrál na bicí. Poté, co uslyšel nahrávku Edgarda Varèseho, pustil se do komponování krátkých skladeb. K jeho dalším oblíbeným klasickým skladatelům patřili Igor Stravinskij a český skladatel Alois Hába. Společně s kamarádem Donem Van Vlietem (alias Kapitánem Beefheartem) se stal skalním příznivcem rhythm and bluesové hudby.
Vysokou školu nedostudoval, neboť neměl pocit, že ho může něco naučit. Raději se začal věnovat skládání hudby ke kinematografickým snímkům a komerčním spotům. Za honorář, který obdržel za hudbu k filmu Run Home Slow, si koupil nahrávací studio v Cucamonze, kterému dal název Studio Z. Poté založil kapelu Giants, která se stala přímým předchůdcem skupiny Mothers of Invention. V roce 1966 se skupinou vydal úspěšné dvojalbum pojmenované Freak Out!, které z něj učinilo vedoucí osobnost experimentálního rocku.
Na přelomu 80. a 90. let se začal Frank Zappa angažovat v oblasti občanského života – v rozhovorech otevřeně vyjadřoval skepsi týkající se soudobé lidské společnosti. Kriticky hovořil také o roli soudobé politiky a médií v kontextu moci, cenzury a obchodu. Obzvláště aktivně vystupoval především vůči cenzuře v hudbě.
Frank Zappa zemřel 4. prosince 1993 na rakovinu prostaty. Je pohřben v neoznačeném hrobě na Westwood Village Memorial Park Cemetery veWestwoodu kalifornském Los Angeles.
