Smalkaveldun är en ursprunglig art. Den angavs förekomma flerstädes i Gävletrakten 1848 och betraktades som sällsynt 1863. Arten är rätt flitigt rapporterad och omkring 25 gamla lokaler är kända. Den har troligen ökat under 1900-talet, åtminstone i mängd, men också spridit sig till nya områden.
Smalkaveldun är inte lika näringsgynnad som bredkaveldun. Smalkaveldun är en viktig kolonisatör och igenväxningsart i uppgrundade skyddade havsvikar. Den etablerar sig (ofta i sällskap med bunkestarr) efter havssäv och blåsäv och ersätter dessa när isoleringen är fullgången. Många förekomster även långt inne i landet får betraktas som kvarlevor från tiden vid havet. Växten förekommer i otaliga små isolerade tjärnar och pölar innanför den flacka blockrika kusten och alldeles särskilt i Hamrånge och Hille. Den hittas också i hällkar. Längre in i landet är smalkaveldun starkare knuten till kalkrika tjärnar med gungflyvassar, rikkärr och till näringsrika och lerrika slättsjöar. Smalkaveldun växer djupare än bredkaveldun ofta på en halv till två meters djup. Arten förekommer även i kulturskapade miljöer som diken och grustag men inte alls i samma omfattning som bredkaveldun och sällan eller aldrig på hyggen.
Den vanligaste följeväxten är vass (37%) följd av kråkklöver, säv, bunkestarr och topplösa. Mycket typiska för smalkaveldunsvassarna är också arter som sprängört, trindstarr, strandklo, kärrsilja och slokstarr.