Gråvide växer på fuktig till blöt, måttligt näringsrik mark och förekommer i kärrkanter, lövskogsbryn, sumpskogar, utefter dammar och diken, på åkerrenar, vägkanter samt i igenväxande fuktiga betesmarker och övergivna stenbrott. Arten har ökat sedan mitten av 1900-talet förmodligen som en följd av den allmänna igenväxningen.