Liten kardborre är en tvåårig eller flerårig ört. Plantan dör efter blomningen och växten är således beroende av kontinuerlig nyetablering från frö. Den är liksom andra kardborrar kväveälskande och knuten till näringsrika miljöer vid gårdar och byar. Typiska miljöer är skräpmarker vid ladugårdar, stall, kvarnar, soptippar och industritomter. Liten kardborre växer gärna på tippar och schaktmassor och gynnas säkert av viss omrörning av marken. På de kalkrika öarna i Gävlebukten uppträder växten också som lundväxt i näringsrika lövskogar. Den förefaller här fullt naturaliserad och blommar och sätter frukt även under ett slutet lövverk.

Arten är i huvudsak knuten till landskapets kulturbygder men förekommer ojämnt och saknas ofta trots lämpliga miljöer.
Mindre vanlig (27% och 74 noterade lokaler).