Grönpyrola har en mycket specialiserad växtmiljö, skild från de andra Pyrola-arternas. Den förekommer framförallt i mycket torr tallskog, företrädesvis i varma lägen i bergssluttningar med morän eller i sydsluttningar av sandåsar; ibland står den på sandiga tallmoar, men den saknas däremot i hällmarkstallskog. I Liden och Tuna har den setts på nipkrön i tallskog. Den kan också dyka upp i torr granskog eller barrblandskog i bergig–blockig mark, t.ex. på vittringsjord i sydbergens rasmark. Arten växer nästan enbart i äldre skog, ofta i glesa ljusa skogsbestånd, gärna på fläckar av lågvuxna mossor, ibland på lavklädda ytor. Populationerna är i regel små.
Inte sällan är grönpyrolan den enda ovanliga växten i en i övrigt trivial biotop. Ofta ser man den dock i örtrikare miljöer t.ex. med nattviol Platanthera bifolia eller liljekonvalj Convallaria majalis. Grönpyrolan saknas helt på kulturmark men har setts några gånger i öppen mineraljord i torr vägkant som vid Slättmonvägen nordväst om Vallsjöarna i Liden. Arten visar en preferens för rikare och till viss del klimatiskt mer gynnade trakter.