Kärrtistel växer i den försumpade odlingsmarken, ofta där nattdimman står som tätast på sensommaren. Den sträcker sig ofta till synes onödigt högt över annan vegetation. Arten växer i regel på blöt mark, ibland på torv men aldrig på rent gungfly. Om den någon gång till synes står torrt brukar den indikera en källåder. Arten kräver mineralrik mark och är sällsyntare i sura, magra trakter. Den tunnar också ut i höjdområdena, möjligen av klimatiska skäl, men är funnen t.ex. i Haverö Örasjön längst i nordväst och Liden Gussjöhöjdskogen i norr.
De största bestånden ser man idag på övergiven odlingsmark, gamla igenväxande slåtterängar och lägdor, i diken och på betade fuktmarker. Inte sällan är kärrtisteln pionjär i nya diken och jordtäkter, t.ex. matjordstäkt i Stöde. Den kan även dyka upp i skogsbilvägarnas kanter, helst vid sippervatten eller på nyligen uppkastad jord. På sjöstränder finns den mest på tuviga strandängar. Naturligt finns kärrtisteln i rikare kärr, men då mest i källutflöden och gärna i kanter som på Värsjömyran i Borgsjö. Ibland växer den vid ljusöppna skogskällor och källkärr eller vid skogsbäckar i öppna lägen, gärna vid kärrartade utflöden. Den gynnas av avverkningar och ses inte sällan i fuktsvackor på hyggen och i kraftledningsgator.