Zé Ramalho começou sua carreira artística escrevendo verso de cordel. Cantava em conjuntos inspirados na Jovem Guarda e no Rock inglês. Em 1974 teve uma música de sua autoria incluída na trilha sonora do filme: Nordeste, Cordel, Repente e Canção, de Tania Quaresma. Em 1975 lançou o disco “Paebiru”, em parceria com Lula Cortes. Logo estava tocando na banda de Alceu Valença. Nesse mesmo ano, participou do festival “Abertura”, quando cantou com Alceu Valença a música “Vou Danado Pra Catende”.
Em 1976 mudou-se para o Rio de Janeiro. Em 1977 gravou seu primeiro álbum solo, intitulado “Zé Ramalho”, que incluía a música Avôhai, composta em homenagem a seu avô, como também “Chão de Giz” e “Bicho de Sete Cabeças”. Seu trabalho foi elogiado pela crítica e fez sucesso de vendas. Zé Ramalho ganhou o prêmio de Melhor Cantor Revelação da Associação Brasileira de Produtores de Discos.
Em 1979, Zé Ramalho lançou seu segundo disco solo, que fez grande sucesso com as músicas “Admirável Gado Novo” e “Frevo Mulher”. Em 1980 mudou-se para Fortaleza, onde escreveu o livro de poesias “Carne de Pescoço”. Em seguida lançou os álbuns “Terceira Lâmina” (1981), “Força Verde” (1982), “Orquídia Negra” (1983).
