1956年6月，华东地质局决定成立“地质部安徽省地质局筹备处”，经过近2年的筹建，安徽省地质局于1958年4月19日以（58）皖地办字第002号文发出通知：“我局定于4月21日在合肥市宁国路正式开始办公……。”（筹备处代章）。安徽省人民委员会又根据国务院直编习字96号文指示，于同年6月6日以办字第00678号文发出《关于成立“安徽省地质局”的通知》：“……，本会决定成立‘安徽省地质局’。现随文附发‘安徽省地质局’铜质印章—颗，……。”原华东地质局所属驻皖11个地质队划归省地质局。1958年9月，在阜阳、蚌埠、六安、安庆、芜湖设立了专区地质分局。

“文化大革命”期间，群众组织纷纷建立，局机关于1967年2月被“夺权”。1968年8月，经省革命委员会批准，建立安徽省地质局革命委员会，下设政工组、办事组和生产组，原有组织机构撤销，实行归口管理。1969年8月，省革委会将安徽省地质局革命委员会改为安徽省革命委员会生产指挥组工业交通办公室所属的地质管理站。

1970年5月，地质管理站与重工业管理站并为安徽省革命委员会冶金地质局（合肥市庐江路），同时成立中共安徽省冶金地质局党的核心小组。1973年8月，省革委会决定冶金与地质分开，成立安徽省革命委员会地质局。1975年10月，省革委会决定安徽省革命委员会地质局改称安徽省地质局。

1983年7月，安徽省地质局改为安徽省地质矿产局，1983年11月1日起启用由安徽省人民政府制发的新印章。1999年，根据《国务院办公厅关于印发地质勘查队伍管理体制改革方案的通知》，安徽省地矿局实行属地化管理，并更名为安徽省地质矿产勘查开发局，原地矿部第一物探大队成建制划转省地勘局管理。2000年3月，安徽省直机关改革，地矿局行政职能并入新成立的国土资源厅，主体仍独立运作 。