雀舌黄杨是灌木植物，高3-4米；枝圆柱形；小枝四棱形，被短柔毛，后变无毛。叶薄革质，通常匙形,亦有狭卵形或倒卵形，大多数中部以上最宽，长2-4厘米，宽8-18毫米，先端圆或钝，往往有浅凹口或小尖凸头，基部狭长楔形，有时急尖，叶面绿色，光亮，叶背苍灰色，中脉两面凸出，侧脉极多，在两面或仅叶面显著，与中脉成50-60度角，叶面中脉下半段大多数被微细毛；叶柄长1-2毫米。

花序腋生，头状，长5-6毫米，花密集，花序轴长约2.5毫米；苞片卵形，背面无毛，或有短柔毛；雄花：约10朵，花梗长仅0.4毫米，萼片卵圆形，长约2.5毫米，雄蕊连花药长6毫米，不育雌蕊有柱状柄，末端膨大，高约2.5毫米，和萼片近等长，或稍超出；雌花：外萼片长约2毫米，内萼片长约2.5毫米，受粉期间，子房长2毫米，无毛，花柱长1.5毫米,略扁，柱头倒心形，下延达花柱1/3-1/2处。

蒴果卵形，长5毫米，宿存花柱直立，长3-4毫米。花期2月，果期5-8月。