局徽整体由三个“S”、又似三个山西省行政版图组合而成。

上半部分为红色，寓意山西省煤炭地质局事业红红火火、经济兴旺发达。象燃烧的煤炭，给人类带来了光与热；象高举的火炬，代表着七千职工的激情和气势。也体现着山西煤炭地质事业持续发展、后继有人。又象一个如诗如画的“山”字，即山西的山。左上图寓意太行山，右上图寓意吕梁山，中上图寓意巍巍钻塔，寓意广大地质队员踏遍山山水水，为祖国勘探“乌金”。

下半部分为黑色，象征着山西省丰富的煤炭资源，寓意山西省煤炭地质局强大的经济实力和为国家所做出的巨大贡献。图形是一个变形的“M”，即“煤”字的第一个拼音字母。充分体现了山西煤炭地质行业的特点和山西煤炭地质人的献身精神。

局徽为圆形，以经纬交织的地球为背景，寓意山西省煤炭地质局的行业特点是进行地球物理勘探。图案下方的“1954”，代表山西省煤炭地质局诞生于1954年，表示走过了半多个世纪的光辉历程。上方为山西省煤炭地质局全称，运用汉字，一目了然。下方为局名英文字母，寓意山西省煤炭地质局面向世界，进入国际化。其中的小锤、罗盘、放大镜，代表地质行业三件宝 。