Sumpstarr hör främst till den fattigare myrvegetationen men kan lite oberäkneligt dyka upp också i annan blötmark. Däremot är den mycket sparsam på artrika myrar. Den har sin främsta hemvist på måttligt blöta mjukmattor ute i fattigkärr men finns även på fastmattor i kanterna, ofta som enda kärlväxt i vitmossan. Den står också gärna uppe på gungflykuddar vid gölar och tjärnar. Arten gynnas starkt av störningar, som tramp och körvägar över myren, och följer ofta spåren en bit upp i skogskanten.
Utanför myrarna finns sumpstarr i artfattiga sumpskogar med vitmossa, t.ex. i tallsumpskog eller i höljor i tallmossevegetation, som intill Hammermyra i Hässjö. Den växer också i tidvis vattenfyllda skogskärr och på traktorvägar och stigar i blöt skogsmark. I hällmarkstallskog – både nära kusten och på bergstoppar i inlandet – är sumpstarr karaktäristisk för tidvis vattenfyllda hällkar. Någon gång står den i sumpiga svackor vid sjöstränder. I näringsfattiga skogsbygder kan man också stöta på den i fuktsvackor på gammal odlingsmark och i diken.