1950年，中南军政委员会工业局萍乡煤矿钻探队成立。1951年，改称中南煤田第二钻探队；1953-1955年，又先后改为萍乡矿务局钻探队、128队。1952-1958年，还有江西省工业厅钻探队从事煤田勘查。两支队伍均于1958年并入江西省地质局。江西省煤炭局复于1959年成立了煤田勘探队，后分为195队、223队。

1963年9月23日，江西省煤炭工业局以（63）煤干周字第1153号文决定成立江西省煤田地质勘探公司，为江西省煤田地质局的直接前身。1964年2月 日，公司奉命撤销，与山东、安徽煤田地质勘探公司及徐州基建局地质处合并，组成华东煤田地质勘探局，属煤炭部领导，负责华东地区煤田地质勘查工作。同年4月，改称华东煤田地质勘探公司。

1966年，江西的煤田勘查队伍，由新成立的湘赣煤田地质会战指挥部领导，参加煤田勘探会战，指挥长陈奇敏。1969年，指挥部撤销，驻江西的会战队伍划归江西省煤炭工业管理局领导。1971年初，江西省煤炭工业管理局并人江西省重工业局领导。1972年8月，恢复江西省煤炭工业管理局体制，下设地质处管理江西煤田勘查工作。1973年，地质处撤销，再次成立江西省煤田地质勘探公司 。

1991年前后，江西省煤田地质勘探公司更名为江西煤田地质局。九十年代末，按照国务院国发[1998]21、22号文件要求，江西煤田地质局划归江西省属地化管理。

2015年3月19日，江西省机构编制委员会办公室下发文件，江西省煤田地质局机关、地勘院划分为一类公益事业单位；195地质队、223地质队、224地质队、226地质队、227地质队、普查综合大队、测绘大队7个地勘单位划分为公益二类事业单位 。