Stor fetknopp växer exponerat på torra berghällar samt i skrevor och på hyllor i klippbranter, framför allt om berget innehåller basrika mineral. Arten odlas också som prydnadsväxt och påträffas kvarstående eller förvildad i kulturmark som gamla trädgårdar, på vägkanter, åkerholmar och murar.