Kråkklöver tillhör landskapets ursprungliga växter. Fossila frukter har påträffats vid torvmarksundersökningar på flera ställen vilket visar att arten varit bofast i tusentals år. Den anges som allmän i alla äldre källor.
Kråkklöver växer ofta mycket blött, gärna mer eller mindre flytande i yttersta kanten av strandvassar av starr, vass eller kaveldun. Den förekommer rikligt i övergödda sjöar och vattendrag men är specialist på näringsfattiga småvatten alltifrån hällkar till branddammar och vattenfyllda gruvschakt. Arten har uppenbarligen god spridningsförmåga och koloniserar snabbt avsnörda vatten vid havet, skogsdiken och försumpade åkrar och ängar.
Kråkklöver förekommer också i fuktig skogsmark. Den är vanlig i sumpskogar, t.ex. klibbalskogar och gråvidesnår vid sjöar. Arten är vidare mycket vanlig vid havet men förekommer där mest i skyddade och utsötade miljöer.
De vanligaste följearterna är topplösa (22%), vattenklöver, sjöfräken, kärrsilja, grenrör, vattenmåra, trådstarr, glasbjörk och flaskstarr.