Europa, Nordafrika. I Sverige upp till mellersta Norrland. I Sörmland tämligen allmän och jämnt spridd – (38%). Liten kardborre är tvåårig och en utpräglad gårdsväxt som trivs på kväverik bar jord vid svin- och hönshus, lador, logar och stall, kring gödselstäder och i starkt gödslade, gårdsnära betesmarker. Utanför gårdsmiljöerna är arten sällsynt, men kan anträffas på soptippar eller liknande. Vid Häggsta i Botkyrka förekommer den i en solexponerad rasbrant nedanför bergväggen. Arten minskar för närvarande genom att ytor med bar, näringsrik jord blir allt ovanligare, både genom att många små brukningsenheter lagts ned och genom övergången till kreaturslösa jordbruk och mer sluten gödselhantering.