Europa, Västasien. I Sverige hela landet utom längst i norr. I Sörmland mycket allmän – (93%). Gråfibblan är en flerårig revbildande art som växer på morän- eller sandjord. Den är ljusälskande och växer på torr mark i låg gräs- och örtvegetation av olika slag, ofta i skogsbryn och på åsbackar, gärna också som kolonisatör i vägskärningar. Efter igenväxning finns den ofta länge kvar även i skuggig miljö. Genom vegetativ förökning bildar den vidsträckta bestånd. Gråfibblan bildar såväl genetiskt konstanta former vilka uppstått till följd av könlös fruktsättning, som sexuella former som resultat av normal korsbefruktning. Hybridisering kan ske mellan formserierna, vilket gör det omöjligt att uppdela gråfibblan i småarter.