铁杆蔷薇是灌木，高1-2.5米；小枝圆柱形，细弱，稍弯曲，紫褐色或红褐色，散生黄色直立的皮刺，常混生细密针刺。小叶7-15，连叶柄长5-10厘米；小叶片椭圆形或、长圆形，长6-20毫米，宽4-10毫米，先端急尖，基部近圆形或宽楔形，边缘有浅细锯齿，有时近基部全缘，平时稍微向下反卷，上面无毛，中脉下陷，下面中脉突起，沿中脉有短柔毛；叶柄和叶轴有柔毛和腺毛或偶有针刺；托叶大部贴生于叶柄，离生部分卵形，先端渐尖，边缘有带腺锯齿。

花常2-7朵簇生，近伞形伞房花序，稀单生；苞片卵形，先端渐尖或尾尖，边缘有带腺锯齿；花梗长8-30毫米，有腺毛，幼时有稀疏柔毛；花直径约2厘米；萼筒纺锤形，光滑无毛或有腺毛；萼片卵状披针形，先端扩展成尾状，全缘，外面有稀疏柔毛和有腺毛，内面密被柔毛；花瓣粉红色，宽倒卵形，先端微凹，基部宽楔形；花柱离生，密被长柔毛，比雄蕊短很多。

果卵球形至椭圆形，有短颈，直径5-8毫米，猩红色，萼片直立有腺或无腺，熟后萼片脱落。花期5-7月，果期8-10月。