中国铁物的前身是铁道部物资管理局，其历史可以追溯到1887年设立的中国铁路公司塘沽材料处。

1949年，铁道部成立材料局，1965年更名为铁道部物资管理局。

1979年，铁道部对物资管理局实行企业化管理，对外称中国铁路物资总公司。

1987年，经国务院批准，中国铁路物资总公司注册。

2004年，经铁道部和国务院国资委批准，中国铁路物资总公司移交国务院国资委管理，成为国务院国资委履行出资人职责的中央企业。

2010年9月20日，中国铁路物资股份有限公司创立大会暨第一次股东大会在北京召开，标志着中国铁路物资总公司完成整体改制，中国铁路物资股份有限公司成立。

2014年8月4日,经国务院国资委同意和国家工商总局核准，中国铁路物资总公司更名为中国铁路物资（集团）总公司。

2017年10月24日，国务院国资委批准中国铁路物资（集团）总公司公司制改制方案，定名为“中国铁路物资集团有限公司”，国资委代表国务院履行出资人职责。12月7日，完成工商变更登记，正式更名为中国铁路物资集团有限公司 。

2020年4月，入选国务院国资委“科改示范企业”名单。