Kärrviol förekommer på våt eller fuktig, gyttjeblandad, gärna något sur jord. Den förekommer i kärr av olika slag, särskilt skogs- och laggkärr, där den oftast växer i kanterna och på tuvor. Arten anträffas också i löv- och gransumpskog, i våta och fuktiga betesmarker, vid källor och på stränder. Den är kulturgynnad och uppträder gärna i diken och utmed fuktiga vägrenar. På utdikad mark och igenlagda mossodlingar kan den ibland bilda stora bestånd.