中国作为磁性材料的发源地，早在战国时期就已对天然磁性材料如磁铁矿有所认识。11世纪，中国古代工匠发明了制造人工永磁材料的方法，这一创新在1086年的《梦溪笔谈》中有所记载，书中详细描述了指南针的制作与应用，甚至记录了其在航海中的应用以及地磁偏角的发现，这标志着磁性材料在导航技术上的重要突破。
进入近代，电力工业的飞速发展推动了金属磁性材料的发展，硅钢片（Si-Fe合金）作为重要产品应运而生。永磁金属从碳钢发展到稀土永磁合金，性能得到了显著提升，提高了近二百倍。随着通信技术的演进，软磁材料从片状、丝状到粉状，尽管不断改进，但依然难以满足更高频率需求。在20世纪40年代，荷兰科学家J.L.斯诺伊克发明了铁氧体软磁材料，不仅电阻率高，高频特性也优良，随后出现了成本更低的永磁铁氧体，进一步推动了磁性材料技术的进步。
50年代初，电子计算机的兴起改变了磁性材料的应用领域。美籍华人王安引入矩磁合金元件作为计算机的内存储器，但很快被矩磁铁氧体记忆磁芯所取代，后者在60至70年代对计算机的发展起到了关键作用。同时，铁氧体的独特微波特性使其在微波器件制造中崭露头角。尽管压磁材料在第一次世界大战时已被用于声纳技术，但随着压电陶瓷的出现，其使用受到了一定的限制。然而，强压磁性的稀土合金后来的出现弥补了这一空白。
非晶态磁性材料是现代磁学研究的成果，1967年快速淬火技术的发明解决了制备工艺的问题，使其逐步迈向实用化。其中，铁粉芯作为软磁材料的一种，也在这个进程中扮演了重要角色，为现代技术的发展提供了坚实的基础。
磁性材料，是古老而用途十分广泛的功能材料，而物质的磁性早在3000年以前就被人们所认识和应用，例如中国古代用天然磁铁作为指南针。现代磁性材料已经广泛的用在我们的生活之中，例如将永磁材料用作马达，应用于变压器中的铁心材料，作为存储器使用的磁光盘，计算机用磁记录软盘等。可以说，磁性材料与信息化、自动化、机电一体化、国防、国民经济的方方面面紧密相关。而通常认为，磁性材料是指由过度元素铁、钴、镍及其合金等能够直接或间接产生磁性的物质。