Paraibano de Alagoa Grande, Jackson nasceu em 31 de agosto de 1919, com o nome de José Gomes Filho. Ele era filho de uma catadora de coco, Flora Mourão, que lhe deu o seu primeiro instrumento: o pandeiro.
Seu nome artístico nasceu de um apelido que ele mesmo se dava: Jack, inspirado em um mocinho de filmes de faroeste, Jack Perr A transformação para Jackson foi uma sugestão de um diretor de programa de rádio. Dizia que ficaria mais sonoro e causaria mais efeito quando fosse ser anunciado.
Somente em 1953, já com trinta e cinco anos, Jackson gravou o seu primeiro grande sucesso: "Sebastiana", de Rosil Cavalcanti. Logo depois, emplacou outro grande hit: "Forró em Limoeiro", rojão composto por Edgar Ferreira.
Foi na rádio pernambucana que ele conheceu Almira Castilho de Albuquerque, com quem se casou em 1956, vivendo com ela até 1967. Depois de doze anos de convivência, Jackson e Almira se separaram e ele se casou com a baiana Neuza Flores dos Anjos, de quem também se separou pouco antes de falecer.
No Rio de Janeiro, já trabalhando na Rádio Nacional, Jackson alcançou grande sucesso com "O Canto da Ema", "Chiclete com Banana" e "Um a Um". Os críticos ficavam abismados com a facilidade de Jackson em cantar os mais diversos gêneros musicais: baião, coco, samba-coco, rojão, além de marchinhas de carnaval.
O fato de ter tocado tanto tempo nos cabarés aprimorou sua capacidade jazzística. Também é famosa a sua maneira de dividir a música, e diz-se que o próprio João Gilberto aprendeu a dividir com ele. Muitos o consideram o maior ritmista da história da Música Popular Brasileira e, ao lado de Luiz Gonzaga, foi um dos principais responsáveis pela nacionalização de canções nascidas entre o povo nordestino. Sua discografia compreende mais de 30 álbuns lançados no formato LP. Desde sua primeira gravação, "Forró em Limoeiro", em 1953, até o último álbum, "Isso é que é Forró!", de 1981, foram 29 anos de carreira artística, tendo passado por inúmeras gravadoras.