Kråkklöver hör hemma i mycket vattenrika kärrmarker och sumpskogar. Där den blir störst och ymnigast är marken ofta ”bottenlös” och svårpasserad. Den uppträder lika frekvent i näringsrika odlingsbygder som i magra skogsområden. Typiska miljöer är små vattensamlingar, t.ex. små igenväxande tjärnar, avsnörda vikar eller korvsjöar – suråar. Men arten växer också i tidvis vattenfyllda lokar, både i skog och på kulturmark, och ses då i torrlagda, svarta höljor på högsommaren när vattnet sjunkit undan. Så förekommer den även i större diken.
Kråkklöver är vanlig vid små skogstjärnar där den ofta intar en viktig plats i strandvegetationen närmast vattnet, t.ex. vid branta torvstränder. Vid större sjöar finns den mest i lugna vikar, bäckutlopp och strandkärr med viden. Den uppträder även längs rinnande vatten, t.ex. i lugna bakvatten eller i tidvis torrlagda kvisslor. Den etablerar sig gärna kring lågor, på länsvirke och annan förna i vattnet. På myrarna ses den mest i gungfly kring en gräsbevuxen tjärnkant, vid en myrbäck, ett utlopp eller i ett blött högstarrkärr. Den är även regelbunden i vattenrik lövsumpskog, t.ex. alkärr eller växelblöta videkärr; inte sällan står den i stark skugga. Vid havet möter man den i hällkar, utsötade vikar och bland block, ibland t.o.m. i våt sand.