早期文献常认为该科与桃金娘科关系极密切，将该科包括在桃金娘科中。但该科植物叶互生，有托叶（早落），无油腺，内生韧皮部常不存在，叶柄恒有皮层维管束，胚珠有双层珠被，以及一系列胚胎特征均与桃金娘科植物很不相同，故近代学者主张两科分立。此外粘液道的存在、叠生韧皮部和楔状韧皮射线都表明该科与锦葵目（Malvales）也可能存在某种亲缘关系。1981年的克朗奎斯特分类法将玉蕊科单独列入一个玉蕊目，只有玉蕊科一科。1998年，根据基因亲缘关系分类的《被子植物APG分类法》将其合并到杜鹃花目中。所以该科在分类学上存在异议。
