No meio daquele ano, acertou com o São Paulo e chegou como um ilustre desconhecido, mas começou 1998 como titular, jogando bem e participando da campanha do título paulista. O desempenho lhe rendeu uma surpreendente convocação da seleção brasileira para a Copa do Mundo de 1998, na França. Zé Carlos foi à Copa como reserva de Cafu e precisou substituir o lateral, suspenso, na semifinal contra a Holanda.