Cresciuto calcisticamente nel Groningen, debuttò all’età di 16 anni in prima squadra. Assieme a suo fratello Erwin Koeman e a Jan van Dijk costituiva un formidabile trio di centrocampisti. Dopo tre stagioni approdò all’Ajax. In seguito giocò ancora nel PSV Eindhoven e nel Barcellona. Chiuse la sua carriera di giocatore nel Feyenoord.
Koeman è rimasto famoso per i suoi potenti calci di punizione (famoso quello con cui decise la finale di Coppa dei Campioni 1991-1992 a Wembley) e i calci di rigore.
È il primo olandese ad aver realizzato il double (vittoria di campionato e della coppa nazionale nello stesso anno) sia come calciatore – 1988 e 1999 nel PSV Eindhoven – che come allenatore – 2002 nell’Ajax. | 
