Ganhou a sanfona de presente do pai em 13 de junho de 1939, num dia de Santo Antônio, aos nove anos. A partir daí, a inseparável companheira o levaria para mundos desconhecidos. Aos quinze anos, ingressou na Rádio Clube de Pernambuco, no Recife. Em 1948, fez parte do cast da Rádio Jornal do Commercio.

Em 1951, gravou o primeiro disco em 78 rotações, pela Continental, com "Carioquinha do Flamengo" (Waldir Azevedo, Bonfiglio de Oliveira) e "Tico-Tico no Fubá" (Zequinha de Abreu). Nesse mesmo ano, lançou o primeiro sucesso nacional, em parceira com Humberto Teixeira, , "Adeus, Maria Fulô" (que foi regravado numa versão psicodélica pelos Mutantes, nos anos 60).



A partir de 1955, foi morar no Rio de Janeiro. Após apresentações na Europa como acordeonista de um grupo chamado Os Brasileiros, chegou a morar em Lisboa e Paris, a partir de 1959. Foi considerado o melhor instrumentista de 1962 pela imprensa parisiense. Gravou o disco "Samba Nouvelle Vague" (Barclay), com vários sucessos de bossa-nova.



Morou em Nova Iorque de 1964 a 1976, onde, entre outros trabalhos, foi autor do arranjo do grande sucesso "Pata Pata", de Miriam Makeba, com quem então excursionou pelo mundo até o fim da década de 60. Compôs trilhas para os filmes Os Trapalhões na Serra Pelada (1982) e Os Vagabundos Trapalhões (1982).



Um dos discos mais emblemáticos da carreira do artista é o "Sivuca Sinfônico" (Biscoito Fino, 2006), em que ele toca ao lado da Orquestra Sinfônica do Recife sete arranjos orquestrais de sua autoria, um registro inédito, único e completo de sua obra erudita. As composições sinfônicas de Sivuca são absolutamente singulares na música erudita brasileira, porque o artista inseriu a sanfona como o instrumento principal de sua obra.

​

Em 2006 o músico lançou o DVD “Sivuca – O Poeta do Som”, que contou com a participação de 160 músicos convidados. Foram gravadas 13 faixas, além de duas reproduzidas em parceria com a Orquestra Sinfônica da Paraíba.