Karin Nelson är född i Skellefteå. Efter musiklärar- och kyrkomusikerexamina från musikhögskolorna i Piteå och Göteborg fortsatte orgelstudierna på diplomutbildningen i Göteborg, följt av orgel- och cembalostudier vid Sweelinckkonservatoriet i Amsterdam. I början av karriären undervisade hon vid olika musikhögskolor i Sverige och var under ett flertal år organist i Göteborgs Symfoniker.
 
Nelson innehar en professur i orgel och kyrkmusik vid Norges musikkhøgskole i Oslo samt är professor i orgel vid Högskolan för scen och musik, Göteborgs universitet. Förutom konsertverksamhet i Sverige och utomlands har Nelson gjort ett flertal CD-inspelningar, varav ett flertal tillsammans med andra musiker från olika genrer där improvisation ingår som ett naturligt element.

I sina konserter har hon gjort till en vana att alltid framföra minst ett stycke av en kvinnlig kompositör och en improvisation.