在植物分类学上，穗花杉属最早于1916年由德国植物学家罗柏特·皮尔格依据Amentotaxus argotaenia建立的，并以种的名义置于罗汉松属(Podocarpus)之下，后又被移至三尖杉属(Cephalotaxus)(或称粗榧属)，之后独立出来为穗花杉属，1926年皮尔格根据雄株球果的复合性将穗花杉属与三尖杉属一同并入三尖杉科(Cephalotaxaceae)，同科的还有台湾粗榧、日本榧树等，1931年，另一日本学者工藤佑舜观察雌株球果后认为它不应放在三尖杉科而应成立新科穗花杉科或是作为红豆杉科的亚科或族，所以与另一日本植物学家山本由松一同建议成立穗花杉科，然而，另一日本植物学家小泉源一认为这是完全不必要的，他认为穗花杉属与三尖杉属仍有联系，因此主张将红豆杉科与三尖杉科至于同一科内，将两者降至亚科的地位。

现今，三尖杉属、穗花杉属与红豆杉科之间的关系，还尚未完全厘清，因此植物分类上有许多分歧，例如《台湾植物志》将粗榧科(三尖杉科)穗花杉科独立出来;但《The Families and Genera of Vascular plants》(维管束植物科属)将这两属一同放在三尖杉科当中;但也有将三尖杉科独立，穗花杉属至于红豆杉科，如《世界松柏类名录及文献》。但多数学者仍认为红豆杉科分5个属，有许多共同之处，是比较自然的分类群。