Mjölon är en karaktärsart för mycket torr, bergig eller grusig mark där mulljordslager saknas. Mjölonet har sina rötter i sprickor på berg eller djupt nedborrade i grus och kan därifrån täcka stora ytor på hällar och naket grus. Det föredrar ljusöppna sydlägen men tycks oberoende av näring och pH. Man finner det på bergstoppar i kanten mot stupet, på hyllor i sydvända bergsbranter, och – särskilt i öster – på berghällar i hällmarkstallskog. I skogsområdena förekommer det på skarpa sand- och moränåsar i barrskog, mer sällan på tallmoar. Dessutom är mjölonet typiskt på klapperstensfält, malnar, vid havet. Man kan där se grovstammiga, mycket gamla individ med vidsträckt omfång; så även på ”relikta” klapperstensfält som vid Sundsvall Kumo. Mjölon kan också etablera sig på stabiliserade högre delar av sandstränder, både vid kusten och vid inlandsvatten.
Bilisten möter det också i en ny biotop; inte sällan ses nyetablerade runda mjölonmattor längs de större genomfartsledernas näringsfattiga mineraljordsslänter, t.ex. längs E14. Man kan även se det komma in i gamla grustäkter och bergsskärningar. I kustbygd och dalgångar kan det ibland dyka upp på mindre, kulturnära hällmarker. Mjölon tycks uppträda regelbundet i sin specialiserade miljö men har utbredningsluckor som kanske inte helt kan förklaras av att lämplig biotop saknas. Arten är sydlig och en klimatisk begränsning är också trolig i höjdområdena i norr och väster.