Knylhavre är kanske ursprungligen inhemsk i torr gräsmark i skärgården. För övrigt förekommer den mest på odlingsnära torrängar, alldeles särskilt på järnvägs- och vägbankar, ibland i kilometerlånga renbestånd. Knylhavre gynnas av upphörande bete.

Det är svårt att bilda sig en uppfattning om artens förekomst i äldre tid. Det är emellertid klart att den har ökat starkt sedan slutet av 1700-talet. Knylhavren var inte känd som vild av majoriteten av de tidiga sörmlandsfloristerna. Endast Ekström (1828) anger den från Mörkö som växande ”här och där på ängarna, särdeles i skärgården.” Redan i slutet av 1700-talet förekom arten emellertid i ängar vid två storgods i Mälarområdet (Carlsson 1791). Knylhavre rekommenderades tidigt för insåning i vall (Retzius 1806, Wahlberg 1835) och de äldsta fynden härstammar säkert från sådana odlingsexperiment. Wikström skriver om knylhavre (1840): ”Detta gräs är allmänt omkring Stockholm, … Det är likväl troligt att det först varit odlad i denna nejd, och att det sedan har spritt sig så vitt omkring som man finner det.” Från senare delen av 1800-talet skedde spridningen särskilt utmed järnvägsbankar där det såddes in avsiktligt (Almquist 1929), men ännu på 1880-talet var knylhavren okänd i t.ex. Bogsta socken (Lindström 1892), där den nu är allmän. 

Arrhenatherum elatius subsp. bulbosum – pärlhavre förekommer i nutiden närmast i Mellaneuropa men i Götaland och Svealand har förkolnade stamknölar hittats i boplatslämningar från bronsåldern och järnåldern då de tydligen ingick i mathållningen (Gustafsson 1995). I Sörmland är den funnen vid en järnåldersutgrävning vid Linga i Överjärna. Det är osäkert om det rört sig om vildväxande pärlhavre eller om arten faktiskt odlats för sina stärkelserika knölar.