中山杉属于乔木，胸径可达2米；树皮为长条片状脱落，棕色；枝条呈水平开展；树冠以圆锥形和伞状卵形为主，枝叶非常茂密，树干挺拔、通直，主干明显，中上部易出现分叉现象，通常会形成扫帚状。树叶呈条形，互相伴生，叶子较小，长度一般在0.6-1厘米，呈螺旋状散生于小枝上。
雌雄球花为孢子叶球，异花同株，雌球花生于新枝的顶端，单个居多，也有两三个簇生，成熟时呈球形，长度在3.5-5厘米，完全成熟之后球鳞张开。雄球花多生于小枝之上，成熟时的形状为椭圆形，长度在3-5厘米，多个雄球花聚集在一起形成葇荑花序，成熟之后会飘散出大量的花粉；球果圆形或卵圆形，有短梗，向下垂，成熟后淡褐黄色，有白粉，直径约2.5厘米。种子为不规则的三角形或多边形，皮质较厚、坚硬，不易透水。花期4月下旬，球果成熟期10月。
