Gul fetknopp växer öppet, ofta på tunn jord och gärna på grusig eller stenbunden mark. Naturliga miljöer för arten är klippbranter, klippskrevor i skärgården (ända ute på de yttersta skären) samt grusfält och strandvallar vid havet. Oftast ses den dock kring hällar och på grusåsar i odlingsmark. Den trivs också på grusplaner, i grustag och på vägkanter. På sandig mark kan den ibland bli ett irriterande trädgårdsogräs. Liksom många andra arter av släktet har den planterats som prydnadsväxt på torvtak, stenmurar och hällar. På sådana platser står den ofta kvar och har ibland spritt sig utanför den ursprungliga växtplatsen.