Dia menghabiskan masa kecil hingga remaja di Toulon lantaran orangtuanya menjadi imigran di Prancis.
Sejurus kemudian dia bergabung dengan klub Toulon pada tahun 1993. Saat itu, usianya baru 18 tahun dan dikontrak Toulon selama 1 tahun. Pasca habis kontrak, Kaba pun dikontrak klub Bordeaux selama 5 tahun yaitu hingga 1999.
Baca Juga: Ternyata Ada Sepatu Hari Ibu Sneaker, Harga Anta Kai 1 Sekitar Rp2 Juta
Karier internasional Kaba dirintisnya saat ia dikontrak oleh Arsenal di liga Premier Inggris di tahun 1999. Namun sayangnya, ia tak berhasil bertahan sampai 1 tahun.
Kaba pun kembali ke Prancis dan bergabung dengan klub Marseille hingga tahun 2000. Namanya mulai melambung saat menerima transfer pemain ke Paris Saint Germain (PSG) selama 3 tahun kontrak. Ia kemudian berlaga di liga Prancis hingga tahun 2003.
Kaba juga sempat memperkuat klub Alki Narlaka di Liga Siprus, sebelum kembali pindah ke liga Prancis dengan memperkuat Arles Avignon. Hingga tahun 2011, Kaba akhirnya memutuskan untuk pensiun sebagai pemain sepak bola.