Mattlummern är karaktäristisk för magra, hedartade marker och växer torrare och mer öppet än de andra lummerarterna. Den kan ofta vara svår att upptäcka när den revar sig meterlångt mellan och under ris och renlav. Då avslöjar den sig bara genom sporaxen, som sitter två och två på ett långt skaft och sticker upp ovanför laveller mosstäcket. I naturlig vegetation finns den främst i näringsfattig, talldominerad skog, på morän eller sandmoar. Den kan också dyka upp i mycket torr granskog. Ibland går den ned på sandstränder vid sjöar; ovanlig vid kusten men förekommer t.ex. i Indalsälvens delta.
Mattlummern är den mest kulturgynnade av lummerarterna och det är nog oftast på lokaler med mänsklig påverkan man först möter den, som längs stigar och körvägskanter eller i markstörningar ute på torra, magra hyggen. I skogsbyarna kan man också se den krypa fram i skogsbrynen eller ut på torra ängskanter, gärna intill någon sten.