带电粒子直线加速器是伴随着核科学以及微波高哦拼技术的发展而发展的，1932年Cockcroft 和 Walton研制成功700kV高压倍加器，开用400keV的质子加速器实现了世界上第一个人工核反应，他们也因此成功于1951年获得物理学诺贝尔奖 。
这一核反应实现后，核物理学家对带电粒子加速器产生了浓厚的兴趣并提出了更高的要求，这推动了加速器的发展，诞生了回旋加速器（cyclotron）等类型的加速器。但人们企图进一步提高回旋加速器的能量时遇到了很大的困难。
为克服回旋加速器的限制，沿直线轨道利用交变电场加速带电粒子的方案（即直线加速器的方案）被提出 。
第一个高频直线加速器的概念是瑞典的Ising在1924年提出来的，他建议利用火花隙振荡器和传输线将射频场加到加速电极上，这个建议在当时并未付诸实施。
第一个运行的这类加速器是德国的Wideroe于1928年报道的，该装置由三个圆简电极组成，高频电场加在三个电极的两个间隙上。之后，美国加州大学伯克利分校的一个学生Sloan提出将Wideroe的方案扩展到10个电极和更多电极，并在1931年和Lawrence一起把汞离子加速到1.25MeV，1934年加速到2.85MeV。
这样低的重离子能量是不大可能引起核反应的，而当时的高频功率源水平还不能支持这类加速器进一步提高能量，因此该类加速器没有被发展起来。
不管怎样，直线加速器的原理已被证实，只要有适当的功率源可用，直线加速器必将成为加速器中的重要成员 。
微波功率源是电子直线加速器得以建造成功的关键。英国在第二次世界大战期间用于雷达的兆瓦级磁控管已研制成功，因此英国物理学家得天独厚地拥有10cm波长的功率源，英国原子能研究所建造了世界上第一台电子直线加速器，其长度为40cm，枪电压为45kV，以1MW、3000MHz的磁控管作为功率源，得到36mA、0.54MeV的电子束。1948年他们建立了反馈式行波电子直线加速器，以1.4MW的功率，得到4.5MeV的电子束。
在第二次世界大战末期，斯坦福大学的Hashen同Ginzton和 Woodyard审视了过去有关直线加速器可行性的结论，他们意识到战争期间研发的磁控管可以用来建造几个兆电子伏特的电子直线加速器。此后他们陆续建成了Mark Ⅰ、Mark Ⅱ、Mark Ⅲ。
20世纪50年代不少国家开始了电子直线加速器的设计和建造，包括法国和巴黎。
60年代中期，医用电子直线加速器已在医院应用，为减少加速器尺寸，开始研制驻波结构电子直线加速器。
80年代，自由电子激光及正负电子对撞机的不同方案问世，其关键技术就是高性能电子直线加速器，因此更高频段的直线加速器，高流强﹑低发射度、低能散的加速器得到发展并已取得不少成果。
随着超导技术的发展，超导直线加速器也问世了，近几年（截止2013年）能量回收直线加速器方案已在预研中，并在美国Jefferson实验室研究成功。
近几年（截止2013年）用于产生太赫兹（THz）辐射的FEL计划不断问世。
