Smålånkens typiska miljö är finsedimentstränder med växlande vattenstånd. Den tillhör ävjebroddssamhället och har sin tyngdpunkt vid älvarna och den inre kusten. Arten växer mest på lugna, långgrunda stränder, enstaka eller i mindre, glesa bestånd. Den är konkurrenssvag, fordrar öppen jord och gynnas av strandbete och annat som bildar blottor mellan storvuxna arter. Dess amfibiska levnadssätt gör att den kan växa både under vatten, som flytbladsväxt på ytan och i förkrympt form på torrlagda stränder.
Smålånke förekommer också i de större vattendragens deltaområden. Den är ibland sedd vid näringsrika sjöar och i fuktiga, senare uttorkade gropar och pölar. Arten växer helst på lerjord, men den har noterats även vid skogssjöar på grövre sediment, t.ex. Hångstaörn i Torp. Någon gång växer den i näringsrika, tidvis vattenfyllda diken och lertäkter.