A carreira de Serginho começou em 1988, quando defendeu o Corinthians até 1993. O sucesso foi meteórico e não demorou a atrair atenção do futebol europeu - neste caso, o Bayer 04. O brasileiro embarcou para a Alemanha em 1993, onde vestiu a camisa do Werkself por quatro temporadas.
Entre 1993 e 1997, Paulo Sérgio fez 150 jogos pelo Bayer 04 Leverkusen e 64 gols. Apesar de não ter conquistado títulos, Serginho é o brasileiro com mais gols marcados pelo Werkself. Além disso, aparece no top-3 de atletas do Brasil com mais partidas, ficando atrás apenas de Wendell (250 jogos) e Juan (176 jogos), e igualando os 150 jogos de Zé Roberto.
No período em que defendia o Bayer 04 Leverkusen, o ex-atacante foi convocado por Zagallo para disputar a Copa do Mundo de 1994, nos Estados Unidos, sagrando-se tetracampeão do mundo pela seleção brasileira.
Além de Corinthians e Bayer 04, Serginho vestiu as camisas de Roma, Bayern de Munique, Al Wahda e Bahia. Entre os títulos conquistados, além do Mundial, estão Campeonato Alemão, Liga dos Campeões, Intercontinental, Campeonato Brasileiro e Campeonato Paulista. O atacante se aposentou em 2003.
Nomeado de "lenda" pelo Bayer 04, atualmente ele lidera o projeto da academia de futebol do Bayer 04 Leverkusen no Brasil, que será inaugurado no início de julho.