在19世纪末，当学术荣誉协会Phi Beta Kappa将其会员限制为文科生时，里海大学矿业部负责人Edward H. Williams，Jr. 产生了成立工程荣誉协会的想法。很快，于1885年6月15日，欧文·安德鲁·海克斯（Irving Andrew Heikes）成为了美国工程荣誉协会（Tau Beta Pi）的第一位成员。里海大学在校园内建立了雕像以纪念协会的成立。

1892年，第二协会在密歇根州立大学成立。至此，美国工程荣誉协会在美国与波多黎各已发展到248个分会区，其总部位于田纳西州诺克斯维尔市的田纳西大学内。

尽管美国工程荣誉协会并没有受到与种族和宗教相关内容歧视的指控，但最初的美国工程荣誉协会是一个仅由男性工程师组成的结社。虽然早在1902年就有女性工程师获得过协会给予的奖金，但那时协会并没有将会员资格给予任何女性工程师。直到1969年，美国工程荣誉协会开始授予女性工程师会员资格。

截至2020年，全球共有256个美国工程荣誉协会的分会区。其中250个处于活动状态，6个处于非活动状态。