Knölgröe har en stor utbredning i de kontinentala delarna av Europa men blir mer sällsynt i norr. I Sverige är gräset kustbundet och förekommer främst i de sydöstra delarna, vanligast på Öland och Gotland.

Knölgröe växer på alvarmarkens mosskuddar eller i tunn alvarmo som täcker kalkstenshällen. Även grusalvar och grunda, uttorkade vätar kan hysa knölgröe. I glesare, gärna betade, och sandiga torrängar är den ett vanligt inslag; där växer den ofta i kanten av kreatursstigar. Längs havet återfinns knölgröe på sandstränder och klapperstensvallar. Ruderatmarker som gamla sandtag, grävda bevattningsdammar, f.d. banvallar, stenbrott och högar med tippad sand är också vanliga växtmiljöer. I sandiga tallskogar växer den längs vägar och stigar. Sällsynt är knölgröe funnet på kalkstensmurar och torvtak. Gräset gynnas om underlaget är kalkhaltigt. Under inventeringen är den endast vid ett tillfälle noterad i en sandig åker, en miljö som i Sterner (1938) anges som rätt vanlig för växten.

Knölgröe är en på Öland vanlig och spridd växt. Den är funnen över hela Stora Alvaret där lämpliga miljöer ofta erbjuds. Inom Mittlandet och östra sjömarken växer den främst på insprängda, alvarlika partier. Längs västra kusten är den vanlig, speciellt från Alböke sn och norrut hela vägen till Norra udden; där är det klapperstensvallar och betade torrängar som hyser gräset. Knölgröe håller ställningarna på dagens Öland men verkar vara närmast försvunnen som åkerogräs.

Knölgröe sätter inte frön. I stället omvandlas småaxen till bladbärande groddknoppar som faller till marken och snabbt rotar sig. Gräset är således apomiktiskt och antalet kromosomer varierar mellan 21–45 (Schou m.fl. 2009). Knölgröe växer på mycket torra lokaler där det är en fördel att småplantor bildas redan uppe i axet. Liknande strategier finner man hos en del fjällväxter där det kan vara frön som gror uppe i axet, benämnt äkta vivipari (Widén 2008), ett sätt att ta till vara den korta vegetationsperioden som råder i norr.

Under sommartorkan överlever knölgröe genom den näring som den lagrat i små knölar vid moderplantans bas. Även dessa knölar kan lossna och på så sätt sprida gräset (Lundqvist 1970 a). Försommaren 2019 sågs knölgröe i sällan skådad mängd exempelvis på Slottsalvaret, Räpplinge sn. Detta som en effekt av ökentorkan föregående sommar som dödat mindre torktåliga gräs och banat väg för knölgröe och andra arter med förmåga att snabbt och i mängd kolonisera ledigt livsrum.

Gammal, bofast.