Em 1962 tem pela primeira vez uma música gravada: Bem Devagar, com um conjunto vocal. Em 1965 casa-se com Belina e muda-se para São Paulo, onde tem um emprego na Gessy Lever. Participa do espetáculo teatral Arena Canta Bahia, de Augusto Boal.
Na televisão, em 1966, destaca-se no programa O Fino da Bossa, apresentado pela cantora Elis Regina, que consagra a sua Louvação. Grava o primeiro LP em 1967, ano em que ganha projeção nacional no III Festival da MPB da TV Record (SP) com Domingo no Parque.
A música traz elementos do tropicalismo, movimento que lidera junto com Caetano Veloso. Separa-se de Belina e passa a viver com a cantora Nana Caymmi. Em 1969 é preso pela ditadura militar e, acompanhado de Caetano, exila-se em Londres.
Volta em 1972, ano do LP Expresso 2222. Três anos depois lança Refazenda. Em 1977, após participar do Festival da Nigéria, grava seu disco mais black, Refavela. No início da década de 80 conhece a atual mulher, Flora. É secretário da Cultura de Salvador, onde se elege vereador pelo PMDB.
Em 1990 perde o filho Pedro Gil em um acidente de carro. Em 1999 ganha o Prêmio Grammy na categoria world music. Em abril de 1999 sofre uma cirurgia para retirar um calo nas cordas vocais