Småsärv hittar man som lågvuxna gröna mattor på grunda sedimentbottnar i havsvikarna. Den kan även förekomma vid något skyddade moränstränder, t.ex. Njurunda Brämöns östra strand. Arten är späd och anonymt gräslik men röjer sig alltid genom sina karaktäristiska bananformade frukter. Den växer på någon decimeters till en dryg meters djup. I landskapet är den även funnen subfossil, 80 m ö.h. (Backman 1955).