Kärrkavle växer på åtminstone tidvis våt till fuktig, glesbevuxen eller blottad jord. Den förekommer i kulturmark av många slag som åkrar, trädor, vallar, renar, klövtrampade betesmarker samt på markvägar och gårdsplaner liksom i fuktiga skräpmarker. I mera naturlig miljö finner man den på havsstrandängar, vid dammar, på sjöstränder och intill rännilar och hällkar i skärgårdens hällmarker.