无机硫是煤的矿物质中硫化物硫和硫酸盐硫的总称。硫化物硫指煤中以各种金属硫化物形态存在的硫。其中绝大部分是以黄铁矿硫(FeS₂)形式存在，少数为白铁矿硫(FeS₂)，两者分子式虽相同，但结晶形态不同。黄铁矿呈等轴晶系，含硫量53.45%，多呈结核状、透镜状、团块状和浸染状(星散状)等多种形态赋存在煤中。白铁矿呈斜方晶系，多呈放射状结核存在，它在显微镜下对光的反射性比黄铁矿; 有些高硫煤中还含砷黄铁矿(FeS₂·FeAs₂，是煤中砷的来源)和磁黄铁矿〔Fe_n-₁Sn(n≥8)，含硫量36.47%〕等其他含硫矿物。硫酸盐硫指煤的矿物质中以硫酸盐形态存在的硫。主要以硫酸钙(生石膏，CaSO₄·2H₂O)形态存在(风化煤中较多)，也有少数以硫酸亚铁(如绿矾，FeSO₄·7H₂O)形式存在，煤中硫酸盐硫一般只占总硫分的5%～10%左右，只有风、氧化煤中的硫酸盐硫的比例会有不同程度的增高。

煤中有机硫为与有机质结合的硫，它的组成结构复杂，有机硫中能溶于酚的组分叫树脂质硫，不溶于酚的叫腐植质硫。

煤中的有机硫、无机硫化物硫和元素硫统称可燃硫，硫酸盐硫为不可燃硫。煤热分解后残留在焦炭中的硫叫固定硫;热分解过程中析出的硫叫挥发硫。煤燃烧后残留在灰渣中的硫叫灰中硫，它多以硫酸钙、硫酸镁等形式存在。