由于绿柱石的铍元素主要分布于岩浆成因的I型花岗岩中，因此，过去人们多认为绿柱石矿物的形成主要与这类花岗岩直接或间接相关，实际的情况也大致如此。研究发现，多数绿柱石是产于岩枝状的花岗岩中，这种岩枝状岩体是岩浆活动晚期的气液充填围岩的裂隙形成的，由于有充分的结晶时间因而结晶单晶体都很大，地质上称它们为伟晶岩，这意味着在其中的矿物晶体都具有很大的尺寸。但这些巨大晶体被石英、长石等包裹着，并由于各种原因而使之成为连绵的碎片，很少具有能作为宝石的清洁区，然而，若在伟晶岩中存在气体空隙，或矿袋时，在它们里面形成的绿柱石晶体可以成为透明的和少瑕疵的，从而使之具备了作为宝石的质量。

世界各地有着无法计数的花岗岩分布区，但仅在巴西、阿根廷、阿富汗、非洲、印度、马达加斯加、中国和美国等国家的少数伟晶岩中才有绿柱石矿化。同时，尽管已从这些成矿区开采了数以千吨的伟晶岩型绿柱石矿物，但其中能作为宝石用的却比较稀少。因此绿柱石类宝石比较稀罕，并且随着接近地表的伟晶岩体逐渐被采完，这种宝石将更为罕见。

漂亮的绿柱石晶体(尤其是海蓝宝石和金色绿柱石)亦产于脉络状岩体内，这种岩体不能列为伟晶岩。有时这些矿脉是沿着围岩裂隙形成的，形成的是地质上被称为云英岩(Greisens)的岩体，在俄罗斯、乌克兰和蒙古等地区，都从这种岩体中发现有美丽而透明的宝石级海蓝宝石和金色绿柱石。

如上所说为止发现的绿柱石类宝石的确大多数与伟晶岩有关。但过去的采矿实践证明，绿柱石类宝石的骄子—祖母绿却很少与伟晶岩有关。祖母绿晶体常产于富铁基性岩和酸性岩之间接触带的扁平沉积岩体或扁透镜状矿体中。接触带上的热和压力将原来存在的矿物转化成处于变质过程中的新矿物品种，例如，存在于伟晶岩和扁平沉积岩中的绿柱石被分解，并在变质作用之下，它的成分进入云母片岩中。在那里重新结晶时，如果母岩中同时还存在微量的铬或钒，绿柱石就形成为祖母绿，即是说，在片岩型的祖母绿里，铍的矿化是由一侧的原生花岗岩岩浆提供的，而它的致色元素则归因于接触带另一侧的基性岩。片岩型矿床形成的祖母绿只能是小块的，且形态不佳，较破裂，并充满包裹体。

祖母绿矿床最重要的类型是哥伦比亚型，其矿床形因十分特别。和别的矿床类型相比，哥伦比亚型祖母绿是在较低温度和压力条件下形成的。这种矿床是由方解石渗入到充满灰岩和页岩的断裂带形成的，这种方解石通常呈灰白色并共生有黄铁矿、石英、钠长石、祖母绿和其它矿物。这种矿化作用，似乎可归为某种花岗岩浆源，但尚未得到证实。因此，可以说，这种矿床的成因还没有弄清楚。

另外还有产自流纹岩中的绿色绿柱石，它发现于美国犹他州，后来在新墨西哥也有发现，还有产在与富铁超基性岩结合的白云石大理岩中的绿柱石。

总之，绿柱石类宝石的成因尚是一个远非搞清楚的问题。