Gul fetknopp är ljuskrävande och växer öppet på torra, ofta tunna jordlager i hällmarker och naturbeten, på torrbackar, åkerholmar och där gräset möter berghällen på havsstrandängar. I skärgården växer den praktiskt taget alltid i klippspringor och skrevor på holmar och skär även långt ut mot havet, och på fågelgödslade öar bildar gul fetknopp ibland vida mattor. Man finner också arten på sandig eller grusig kulturmark som vägskärningar, banvallar, grustag och stenbrott samt i fogar i murar och stenläggningar.