1957年1月,经国务院批准,成立地质部山西办事处。
1958年4月,地质部山西办事处改为山西省地质局,受地质部和山西省双重领导。8月,经国务院批准,撤销山西省地质局,设立山西省地质厅。
1963年2月,地质部决定将山西省地质厅改组为山西省地质局。8月,又改为地质部山西省地质局。
1983年9月,地质部山西省地质局更名为地质部山西省地质矿产局 。
1999年,地质矿产部山西地质矿产勘查开发局所属队伍整体划归山西省政府管理,为省政府直属正厅级事业单位,经费来源由国拨地勘费解决。
2001年,省政府明确省地质勘查局为省政府直属正厅级事业单位,业务归口省人民政府国土资源主管部门管理 。