Gråstarr växer mycket ofta tillsammans med hundstarr, stjärnstarr och kråkklöver i fuktig till blöt mager mark i fattiga skogskärr, björksumpskogar, öppna kärr och mossdråg, i torvgravar, intill sjöar och dammar samt i fuktsvackor och igenväxande hällkar i skärgården.