1958年5月31日组建为黑龙江省地质局。
1983年5月，经国务院、地质矿产部批准，增加矿产开发管理业务后，更名为黑龙江省地质矿产局。
1996年，黑龙江省地质矿产局更名为黑龙江省地质矿产厅，为省政府组成部门，同时组建地质矿产部黑龙江地质矿产勘查开发局，厅局实行一套班子两块牌子。
1998年组建国土资源部后，省地矿局为国土资源部直属全额事业单位。1999年实行属地化管理，成为省政府直属正厅级事业单位，更名为黑龙江省地质矿产局，归口省国土资源厅管理。
2010年4月，为了在名称中全面真实反映地质矿产工作内涵，便于开展工作，省机构编制委员会同意黑龙江省地质矿产勘查开发局更名为黑龙江省地质矿产局。更名后，原隶属关系、机构规格、编制数、经费形式等均保持不变。
2020年5月，黑龙江省有色金属地质勘查局并入黑龙江省地质矿产局。
