Knölsmörblomma växer i torr naturlig gräsmark, både i de magra typer som domineras av fårsvingel Festuca ovina och knippfryle Luzula campestris och i de mera närings- och basrika typer som innehåller luddhavre Helictotrichon pubescens och ett stort inslag av örter. Den är typisk för ogödslad betesmark, där den gärna uppträder i sluttningar eller vid markhällar. Arten växer gärna i lätt skuggig hagmark men inte i sluten skog. Vidare förekommer den på torr jord i slänter, på vägkanter, åkerholmar och åkerrenar. I östra Småland är den en av de arter som infinner sig på igenlagd åkermark.

Arten är kulturgynnad och på de flesta lokaler beroende av hävd i form av bete eller slåtter. Vid igenväxning står den kvar ganska länge; däremot försvinner den vid gödsling.