Veio com a família para Brasília no ano de 1958, acompanhando seu pai que era funcionário do Ministério da Fazenda.
Começou a jogar bola no infanto-juvenil do Grêmio Esportivo Brasiliense, se transferindo para o Real, já na categoria principal, depois retornando ao Grêmio.
Em 1969 defendeu o Atlético Goianiense, de Goiânia (GO).
Voltou para Brasília em 1970 e nos cinco primeiros meses do ano defendeu o Coenge. Nos demais, voltou a atuar pelo Grêmio.
Viveu seu melhor momento em 1971, no Colombo, quando se sagrou campeão brasiliense amador daquele ano e foi o goleiro menos vazado da competição, sofrendo apenas três gols nos oito jogos que disputou. Além disso, foi convocado para a Seleção Brasiliense e, na enquete realizada pelo jornal Correio Braziliense Carlos José foi apontado como o goleiro do ano.
Em 1972, ainda disputou o campeonato brasiliense pelo Colombo. No dia 3 de novembro de 1972, Carlos José entregou um requerimento à Federação Desportiva de Brasília solicitando cancelamento de sua inscrição como atleta amador do Colombo.
Poucos dias depois, 8 de novembro de 1972, o Colombo comunicou à Federação Desportiva de Brasília que aplicou a Carlos José uma pena de suspensão de 360 dias por ter cometido a seguinte infração: ter jogado por outra agremiação sem autorização do clube.
Passou, então, por um período de experiência no Ceub.
No dia 18 de setembro de 1973, no Pelezão, estreou defendendo o gol da A. A. Serviço Gráfico, em jogo contra o Atlético, de Brazlândia.
Transferiu-se para a Pioneira, onde fez sua estreia no dia 21 de julho de 1974, no Pelezão, na vitória de 2 x 0 sobre o Relações Exteriores. No final desse ano, pôde comemorar mais um título de campeão brasiliense.
De 1976 a 1978 foi o goleiro do Taguatinga Esporte Clube.
Nesse período, mais precisamente no dia 8 de outubro de 1977, quando vários desportistas se reuniram para tratar da fundação da Sociedade Esportiva e Recreativa L Norte, atual Ceilandense, dentre os presentes estava Carlos José.
Foi contratado pelo Guará em 1979, e defendeu o arco desse clube no Torneio Seletivo de 1979. Nesta oportunidade teve a primeira experiência como técnico, ocupando a vaga deixada por Carlos Morales.
Em 1980 passou para o Sobradinho, onde continuou revezando as funções de goleiro e de treinador.
Nos anos de 1983 e 1984, foi o técnico do recém-criado Vasco da Gama, do DF.
Seu último trabalho como técnico aconteceu em 1992, ao dirigir o Ceilândia.
Além desses clubes citados, Carlos José passou por outros. Chegou a jogar no XV de Novembro, de Piracicaba (SP) e, no futebol goiano foi treinador do Anápolis, Vila Nova e Nacional, de Itumbiara,
Atualmente, Carlos José é microempresário na cidade de Samambaia onde é proprietário da empresa O Sapateiro.