水铁矿的确切化学组成目前还没有定论，这与其小结晶尺寸和结构OH-很难与表面吸附水进行区分有关。最早提出的化学组成是Fe5HO8·4H2O，随后有人分别提出Fe6(O4H3)3和Fe2O3·2FeOOH·2.6H2O。Eggleton和Fitzpatrick给出了后面两个化学式的一般形式Fe4 5(O, OH, H2O)12，Schwertmann和Cornell添加了5Fe2O3·9H2O。以上各化学式的OH-和含水量都不同，目前还没有统一的化学式来表示水铁矿。

天然水铁矿中Si含量很丰富，但Si不是结构必需组成。实验室中可以通过添加Si来合成含Si水铁矿，但Si的含量会影响水铁矿的一些性质。XRD分析表明，随着Si的增加，矿物结晶度降低，颗粒尺寸和晶面间距d增加;其红外图谱出现3700 cm-1和900 cm-1两个与Si有关的吸收峰。