关于水文地质学的零星知识，起源很古。 人们在远古时代就已打井汲水。中国最古老的水井是浙江余姚河姆渡古文化遗址水井，为方形木结构，距今约5 700年。古波斯时期，在德黑兰附近修建的坎儿井最长达26 km，距地表深约150m。公元前250年中国四川为采汲地下卤水而开凿的自流井，深达百米以上。这些都说明古代打井技术和对地下水的认识，均已达到相当高的水平。随后法国帕列西、中国明代徐光启、法国马奥特先后提出了井泉之水均来源于大气降水或河水渗入的设想。

将地下水运动规律用数学式表达，始于1856年法国水利学家达西，通过渗透试验得出的线性渗透定律——达西定律，奠定了水文地质学的基础。1863年法学者裘布依提出在缓变流情况下，计算潜水流可忽略垂向分速度的概化假设(参见裘布依假设)，并导出地下水流向井运动的稳定流公式，发展和完善了地下水的稳定流理论。

20世纪初，对地下水的起源提出了一些新学说。1902年奥地利学者鸠斯提出初生说，认为地下水来源于岩浆的冷凝。1908年美国人莱恩及戈登和俄罗斯学者安德霍索夫分别提出沉积说，认为自然界存在与含水岩石同时形成于沉积盆地的地下水，两者年龄一致，并把这种水命名为沉积水。1921年德国人凯尔哈克提出了地下水与泉的分类。1923年美国迈因策尔对美国的地下水作了总结性描述，并于1928年提出了承压含水层的弹性和压缩性。1935年美国泰斯总结了文策尔等人的实践经验，考虑了承压含水层的弹性和压缩性，利用热传导过程的相似性，导出了地下水流向井的非稳定流公式(参见泰斯公式)。到20世纪中叶，前苏联学者奥费琴尼科夫和美国怀特在水文化学方面，作了许多贡献。至此，地下水在起源、运动、化学成分变化及水量评价等方面，均有较为系统的理论和研究方法，水文地质学已发展成为一门成熟的学科。

进入20世纪中叶，由于生产力的发展及人类生活的需要，合理开发、科学管理与保护地下水资源和环境方面的问题，日益引起重视。1946年以来，美国博尔顿和纽曼分别导出了完整井的非稳定流计算公式。1956年斯列克特观测到水质运移过程中的弥散现象。此后，对地下水溶质和浓度运移研究有了长足的进步。20世纪70年代，地下水管理问题提到日程，有限元法、有限差分法及边界元法等数值方法日益广泛应用于水文地质计算中，此外，砂槽、窄缝模拟和电网络模拟等物理模拟方法，也广泛应用于水文地质研究。20世纪60年代以来，加拿大托特提出的地下水系统理论，为水文地质学的发展开拓了前景。