追溯复合材料的历史，要跨越大约200万年前人类诞生时期，而探索到几亿年前的原始生物时代。如以贝壳为例，贝壳就是碳酸钙和某种蛋白质的复合材料。其中碳酸钙可严格地区分为方解石型(牡蛎壳等)和文石型(文蛤壳等)两种结晶结构不同的物质。另外，其遗骸成为硅藻土而有时用作填料的一种称为硅藻的生物，其细胞壁是由硅酸质无机物蓄积在多糖类基质上的复合材料所构成的。

历史记载了距今4000年前的古代埃及人在晒制砖头用的粘土中放入切碎的稻草，这可以说是人类制造复合材料的开端。后来胶合板、水泥和轮胎等重要发明都是根据复合材料的思想创造出来的，对提高人类生活水平作出了很大贡献。用作工业材料的一种复合材料的起源，可追溯到1839年美国人G.Goodyear发现的橡胶硫化方法，从此橡胶就发展成为有价值的工业材料。硫化橡胶就是在原料橡胶中添加硫化剂，填料、加工助剂和防老剂等橡胶助剂而制得的一种复合材料。二十世纪初期由于发现了补强性填料-炭黑，从而加速了橡胶的发展。从1931年美国Du Pont公司实现氯丁橡胶工业化及1933年德国开发丁苯橡胶时开始，合成橡胶得到了蓬勃发展。硫化橡胶的历史也就是橡胶复合材料的历史。橡胶历史悠久，同时还积累了以补强理论为中心的学术上的研究成果，它已是一种成熟的材料。

合成塑料的历史是从比利时出生的L.H.Baekeland于1909年在美国搞成的酚醛树脂的工业化开始的。在酚醛树脂之后，所有热固性塑料都很少单独使用，大多与一些填料复合后使用。例如酚醛树脂复合适当的填料，如木粉、石棉、云母、纸片和布片等。不饱和聚酯大多是用玻璃纤维等增强，用作所谓FRP(纤维增强)。因此热固性塑料的历史也就是热固性复合塑料的历史。其中FRP用途广泛，发展迅速，同时在学术上也推动了强度理论等的积极研究。

另一方面，热塑性塑料的历史是从本世纪二十年代到三十年代初由醋酸纤维索、聚醋酸乙烯、聚甲基丙烯酸甲酯和聚氯乙烯等工业化开始的。后来英国ICI公司的E.W.Fawcett等人的高压聚乙烯(1938年)、美国Du Pont公司的W.H.Oarothers等人的尼龙66(1938年)以及根据K.Zieglar和G.Natta的研究成果由意大利Montecatini公司制造的低压聚乙烯(1953年)和聚丙烯(1958年)相继开发并实现了工业化，从五十年代后半期起石油工业飞跃发展，热塑性塑料的发展也很快。最早上市的热塑性复合塑料就是以碳酸钙等廉价填料填充的聚氯乙烯。聚氯乙烯大多是大量添加填料和增塑剂等加以使用的，这与橡胶很相似，是热塑性塑料中的一个特殊情况。聚氯乙烯以外的热塑性复合塑料的历史是从美国人R.Bradt在1951年发明玻璃纤维增强聚苯乙烯开始的。这种增强聚苯乙烯是用电线包覆方法的原理，将连续无捻玻璃粗纱与聚苯乙烯一同挤出后切粒而得，已由Fiberfil公司加以工业化，Fiberfil公司以同样的方法成功地实现了玻璃纤维增强尼龙66的工业化。