中国在公元前1700年的青铜器时代中期已开始使用耐火材料，当时采用天然耐火原料（如泡砂石和粘土），经过简单加工夯打筑炉。1975年中国考古学家在郑州西北郊古荥阳城外发现一处公元前200年的汉代冶铁遗址。对其炼铁炉的初步研究表明，炉身采用砂质粘土，炉腹、炉缸和炉底采用含碳耐火粘土。
近代耐火材料大致起源于19世纪上半叶的欧洲。1810年首次出现了用耐火粘土制造粘土砖的工厂;1822年英国以石英岩为原料，石灰为结合剂制成硅砖，并在炼钢炉应用。到20世纪上半叶，粘土砖和硅砖等的质量不断提高，品种日益增多。这个时期开发出了铬质、镁质、镁铬质和高铝质等高级耐火材料。
