Gråbinkan hör hemma i sandiga backar och slänter, helst i lite örtrika miljöer. Den är typisk för glaciofluviala avlagringar i kust och dalgångar, t.ex. på rullstensåsarnas sydsidor. Arten är annuell eller bienn och behöver lätt eroderade ytor för frögroning, som branta slänter eller gamla grustag. Den tycks vara svagt kalkgynnad men är funnen även på odlingar i sura höjdområden, t.ex. Liden Nordansjö och Ljustorp Laxsjön. En nyare biotop, som passar gråbinkan utmärkt, är nygjorda höga vägslänter längs de stora vägarna. Där har den idag sina största förekomster och växer med tjärblomster Viscaria vulgaris, gråfibbla Pilosella officinarum, färgkulla Anthemis tinctoria m.fl. Idag är gråbinka också vanlig vid kraftverksdammar och på grusiga strandplaner, särskilt längs Indalsälven. I tätorterna ser man den ibland på industriområden, banvallar och gamla kajer. Små obeständiga förekomster kan dyka upp på jordblottor i torr slåtter- och betesäng.
Möjligen har gråbinkan mer naturliga ståndorter på stränder, både vid havet och vid inlandsvatten. Den växer då rätt långt upp bland gräs på sandstränder, gärna vid slitna badplatser, gistvallar eller beten. Någon gång är den funnen i lätt eroderad älvbrink och på sandiga deltaöar, t.ex. Älgsand och närliggande småöar i Timrå. Den uppträder inte ofta på hällmarker men är sedd på betespåverkade kalkhällar vid Alnö Smedsgården.