原始时代已能冶炼并使用青铜、铜、金、银、铁、铅、锡等金属。

欧洲约西元前一千年开始制铁。最早使用的炼铁炉为空气式炉或用土石堆砌的熔铁炉（Low Shaft Furnace）、锻铁炉（Bloomery）。将洗净的矿石与木炭一起放入炉中点火熔炼，利用自然气流或人力风箱供应氧气，炉里产生一氧化碳将铁矿还原成铁，所得之产品再以人力捶打除去残渣。后来利用水车带动风箱，氧气供给量增加，所以炉身与炉的截面积也可以加高，可装入更多矿石及木炭，得到更大的铁碇，由于超过人力捶打加工的限度，也以水力取代人力。由此锻铁炉慢慢发展成高炉（Blast Furnace）。

随着高炉的增加，木炭便发生短缺的现象，即开始尝试以煤取代木炭，至十八世纪中，英国人成功将煤炭炼成焦炭，此后炉温增加而使产量增加。蒸气机出现后，被用来驱动鼓风机，使鼓风量增大而使炉温上升，产量也大幅增加。

16世纪中叶冶金由“技艺”逐渐发展成为“冶金学”。冶金学（metallurgy）包括了化学冶金（chemical metallurgy，又称提取冶金，extractive metallurgy）、物理冶金（physical metallurgy）和机械冶金（mechanical metallurgy，又称力学冶金）。之后，物理冶金逐渐发展成为金属材料学科。

19世纪初出现了粉末冶金（powder metallurgy），在欧洲被称为“第四冶金”，用金属粉末制备出难熔、硬质合金等产品，成为现代冶金和材料工业的重要组成部分。

随着科学技术的发展，冶金已从狭义的从矿石提取金属，发展为广义的冶金与材料制备过程工程，即研究利用一切可利用的资源，制备国民经济发展所必需的各类材料，并逐步实现冶金-材料制备一体化、材料制备过程绿色化、材料多功能化。随着计算机技术的发展，冶金与材料制备工程已由简单的制备与加工过程发展为材料制备过程的化学设计、计算机辅助反应器设计、过程的数学物理模拟和过程优化，使冶金与材料制备工程进入了一个新的发展阶段。