在成因上，作为氧化条件下含铁矿物的风化产物是最为普遍的一种情况，例如所谓的褐铁矿大多数情况下主要成份便是沼铁矿。基于同样的原因，一些铜和铁的硫化矿体的外围和露头的风化铁帽（例如在美国亚利桑那的硫铁矿），以及一些由蛇纹岩风化而成的砖红壤堆积（例如在古巴的一些红壤铁矿），也是由针铁矿为主体构成的。沉积也是另一种常见的形式，可以是直接沉淀的也可能是生物成因，这一类的针铁矿常常在湖沼底层沉积物和泉水周围被发现，这些呈层状或结核状的不纯针铁矿有时又被称作沼铁矿（Bog Iron Ore）。最后，还有一种较为少见的形式，人们也会在一些热液脉的空隙中发现低温热液成因的该矿物。另外，需要说明的是，在区域变质作用之下，该类矿物（包括其他含水的铁氧化矿物）会脱水而形成赤铁矿或磁铁矿。
