Liten kardborre växer på mer eller mindre torr, kväverik, öppen jord. Den är vanligast kring ladugårdar och uthus, i skräpmark nära gårdar samt på vägkanter. Den anträffas även i dungar och lövskogsbryn, på betesmarker samt i gamla grustag.
Funnen i 895 rutor, tidigare uppgifter från 139 rutor. Vanlig i öster och nordost, i övrigt ganska vanlig utom i västra Småland och i östra fattigområdet, där den är ganska sällsynt. – Gammal kulturföljeslagare.