中国是世界上最先发现物质磁性现象和应用磁性材料的国家。早在战国时期就有关于天然磁性材料(如磁铁矿)的记载。11世纪就发明了制造人工永磁材料的方法。1086年《梦溪笔谈》记载了指南针的制作和使用。1099~1102年有指南针用于航海的记述，同时还发现了地磁偏角的现象。

近代，电力工业的发展促进了金属磁性材料──硅钢片(Si-Fe合金)的研制。永磁金属从 19世纪的碳钢发展到后来的稀土永磁合金，性能提高二百多倍。随着通信技术的发展，软磁金属材料从片状改为丝状再改为粉状，仍满足不了频率扩展的要求。

20世纪40年代，荷兰J.L.斯诺伊克发明电阻率高、高频特性好的铁氧体软磁材料，接着又出现了价格低廉的永磁铁氧体。

50年代初，随着电子计算机的发展，美籍华人王安首先使用矩磁合金元件作为计算机的内存储器，不久被矩磁铁氧体记忆磁芯取代，后者在60~70年代曾对计算机的发展起过重要的作用。

50年代初人们发现铁氧体具有独特的微波特性，制成一系列微波铁氧体器件。压磁材料在第一次世界大战时即已用于声纳技术，但由于压电陶瓷的出现，使用有所减少。

后来又出现了强压磁性的稀土合金。非晶态(无定形)磁性材料是近代磁学研究的成果，在发明快速淬火技术后，1967年解决了制带工艺，正向实用化过渡。