José Maria Rodrigues Alves nasceu em 18 de maio de 1949 na cidade paulista de Botucatu.
Começou no futebol atuando como atacante na equipe amadora, de sua cidade natal, o Atlético Clube Lageado, time de uma fazenda de café, ainda nos meados da década de 1960.
Ainda com pouco mais de 15 anos, passou a atuar na equipe amadora mais popular de sua Botucatu, a Associação Atlética Ferroviária. Chamou a atenção da comissão técnica da equipe tricolor, por conta de seu grande vigor físico. Por conta disso, acabou deslocado para a lateral direita, onde teria a possibilidade de avançar em direção ao ataque, algo quase que inédito no futebol daqueles tempos.
Em 1966 foi um dos destaques da Ferroviária de Botucatu que chegou até a fase final do campeonato paulista da Divisão Intermediária, algo similar a Série B, o que fez com que chamasse atenção de olheiros da Portuguesa de Desportos, que o contratou no ano seguinte.
Chegou à equipe de Canindé para ser reserva de Augusto, no entanto, já na estreia do campeonato paulista daquele ano, em 4 de julho, na vitória por 2 a 1 frente a Prudentina, era o titular da boa equipe Lusa que contava com jogadores do nível de Felix, Lorico, Basilio e Leivinha.
Após um campeonato promissor em 1967, foi contratado pelo Vasco da Gama no começo de 1968, onde acabou ficando apenas por 3 meses. Este retorno, inesperado, a Portuguesa acabou servindo de motivação para Zé Maria. Não demorou muito e ele foi convocado para atuar na seleção brasileira que venceu a seleção polonesa, por 6 a 3, em partida amistosa realizada na cidade de Varsóvia, em 20 de junho em 1968.
Foi ali que começou o seu namoro com a camisa canarinho o que acabou rendendo sua convocação, como reserva de Carlos Alberto Torres, para a seleção brasileira que acabaria por conquistar o tricampeonato mundial na Copa do Mundo de 1970,
Já campeão mundial viria a ser contratado pelo Corinthians, um namoro antigo que começara ainda no ano anterior, após a morte em acidente automobilístico do lateral direito alvinegro Lidu, juntamente com o ponta esquerda Eduardo, em 28 de abril de 1969. A contratação junto a Lusa foi uma das mais difíceis, sendo necessário até mesmo a influencia do seu pai, Durvalino, a quem prometeu conquistar um título para dar fim a fila de 22 anos sem conquistas da equipe do Parque São Jorge.
Sua estreia no Corinthians aconteceu em 11 de novembro de 1970, na derrota por 1 a 0 frente o Grêmio no estádio Olímpico, e marcou o inicio de um casamento que durou quase 14 anos, 599 jogos, 4 títulos paulistas (1977, 1979, 1982 e 1983) e 17 gols. No seu ultimo ano de Timão, em 1983, após a demissão do técnico Mario Travaglini no meio do campeonato brasileiro, Zé Maria foi escolhido pelos jogadores para assumir o cargo de técnico até o final da competição, o que o fez ao longo de 10 partidas.
Seu apelido Super Zé se devia ao seu folego quase interminável e principalmente por não fugir de divididas. Nas partidas finais do campeonato paulista de 1977, caberia a ele marcar o seu irmão Tuta, ponta esquerda da Ponte Preta e que vinha sendo um dos destaques da equipe campineira. Ainda no vestiário, membros da comissão técnica, José Teixeira e Oswaldo Brandão se mostravam meio temerosos, com relação ao vigor que ele daria nas divididas com o irmão mais novo. Meio de lado, ao ouvir a conversa, Zé Maria direcionou aos dois e disse: Do meu irmão, cuido eu. Na primeira jogada entre os dois, Tuta foi parar no meio da pista que cercava o campo do estádio do Morumbi. Acabara ali o confronto entre os irmãos, uma vez que o ponta esquerda da Ponte sumiu nas partidas finais. Em 13 de outubro, na partida decisiva, caberia a Zé Maria bater a falta que deu início a jogada do gol libertador de Basilio, na vitória por 1 a 0. A promessa feita ao pai estava cumprida.
Mais um fato marcante propiciado pelo Super Zé aconteceu na primeira partida da final do campeonato paulista de 1979, novamente contra a Ponte Preta, em 3 de fevereiro de 1980. Após sofrer um corte do supercilio, com a camisa toda ensanguentada resolveu continuar na partida, levando a fiel ao delírio. Esta identidade com a torcida do Corinthians acabou contribuindo para sua eleição a vereador na cidade de São Paulo em 1982. Em 1984, encerrou sua carreira após atuar algumas partidas pela Internacional de Limeira.
Pela Seleção Brasileira, além da Copa de 1970, disputou a Copa de 1974, na Alemanha, quando se tomou a posição de titular de Nelinho, após as três primeiras partidas daquela competição. Chegou a ser convocado para Copa do Mundo de 1978, na Argentina, mas contusões acabaram o afastando do seu terceiro mundial. Vestiu a camisa amarela em 66 oportunidades.
Zé Maria foi um dos maiores símbolos de raça de uma das mais apaixonadas torcidas do Brasil, a do Corinthians, um jogador que defendeu as cores das equipes por onde passou como se estivesse defendendo a própria vida.