小叶女贞是落叶灌木，高1-3米。小枝淡棕色，圆柱形，密被微柔毛，后脱落。叶片薄革质，形状和大小变异较大，披针形、长圆状椭圆形、椭圆形、倒卵状长圆形至倒披针形或倒卵形，长1-4（-5.5）厘米，宽0.5-2（-3）厘米，先端锐尖、钝或微凹，基部狭楔形至楔形，叶缘反卷，上面深绿色，下面淡绿色，常具腺点，两面无毛，稀沿中脉被微柔毛，中脉在上面凹入，下面凸起，侧脉2-6对，不明显，在上面微凹入，下面略凸起，近叶缘处网结不明显；叶柄长0-5毫米，无毛或被微柔毛。

圆锥花序顶生，近圆柱形，长4-15（-22）厘米，宽2-4厘米，分枝处常有1对叶状苞片；小苞片卵形，具睫毛；花萼无毛，长1.5-2毫米，萼齿宽卵形或钝三角形；花冠长4-5毫米，花冠管长2.5-3毫米，裂片卵形或椭圆形，长1.5-3毫米，先端钝；雄蕊伸出裂片外，花丝与花冠裂片近等长或稍长。

果倒卵形、宽椭圆形或近球形，长5-9毫米，径4-7毫米，呈紫黑色。花期5-7月，果期8-11月。