Gråstarr växer i fattigkärr och sumpskog av olika slag, även i hällkar och fuktsvackor på hällmark. Arten har en stor och långlivad fröreserv i skogsmark och uppträder som kolonisatör i blöta diken och körspår på årsgamla hyggen, likaså på fuktiga skogsstigar, skogsvägskanter och liknande biotoper.