Gråfibbla växer oftast exponerat på torr till frisk, näringsfattig mineraljord med gles och låg vegetation. man finner den i naturbeten och hagmarker, på torrbackar, hällmarkshedar och gräsmattor, oftast torrare än revfibblan, som den ibland växer tillsammans med. Den förekommer också ofta i sandiga vägskärningar, på klipphyllor, vägkanter, banvallar, i grustag och andra kulturskapade ståndorter.